セキュリティにおけるAIへの過大評価を乗り越える

この言葉は使い古されたと感じる人も多いかも知れませんが、今日のセキュリティ分野におけるAIの活用を振り返るとともに、この分野におけるAIの真の可能性、そして私たちが注意し、管理しなければならない問題点の幾つかを再確認することは有益です。 

セキュリティにおけるAIの利用とその未来 

AIのセキュリティシステムへの統合は、脅威の検知と対応に対する業界のアプローチを一変させました。AIのサブセットであるディープラーニング(DL)技術は、分析機能ソリューションの精度を大幅に向上させ、より信頼性の高い効率的なセキュリティシステムにつながっています。  

新しい技術によって信頼性の高いパフォーマンスを発揮できるようになったアプリケーションの例を以下に挙げます:  

• 物体の動きをより正確に検出し、追跡します。 
• 機密性の高いエリアの横断を確実に監視し、警告を発します。 
• 物体と個人をカウントし、占有率とフローを管理します。 
• 潜在的な脅威を示す可能性のある徘徊行動を特定します。 

AIを搭載したシステムによるメタデータの生成は、Video Management System(VMS)のフォレンジック検索にとって画期的なものとなっています。このメタデータは、シーンの活動から詳細な統計と洞察を収集するための基盤として機能し、よりプロアクティブなセキュリティ態勢を促進します。エッジデバイスの機能が向上すれば、このメタデータをカメラで直接生成できるため、システムの総コストを大幅に削減できます。  

パターンや標準からの逸脱を分析することで異常を検出するAIの能力は、セキュリティ監視に新たな局面をもたらしました。この機能により、セキュリティ専門家は、潜在的な脅威が拡大する前に先手を打って対処することができます。 

このような機能により、安全やセキュリティといった従来の用途にとどまらず、幅広い用途が広がりました。人、材料、製品の流れをより正確に監視する基本的な能力は、業務効率を直接改善するアプリケーションを可能にします。このBMWの例はその典型で、監視カメラのAI機能を自動車製造工程全体の品質検査に活用しています。

セキュリティ分野における生成AIの導入 

特に大規模言語モデル(LLM)を利用した生成AIは、AI技術の大きな進歩を象徴しています。これらの技術は、自然言語のプロンプトからテキストや画像を作成できます。さらに重要なことは、膨大な学習データを持つ最新のモデルは、通常の言語インターフェースを通じてユーザーと対話できる一方で、抽象的な概念や複雑なシナリオを扱う能力も備えているということです。  

生成AIのセキュリティ分野への最初の参入は、次のような機能での利用によって見られるでしょう: 

• 自然言語を使用してユーザーにリアルタイムで支援を提供するチャットボットをサポートします。  
• 複雑なセキュリティシステムのセットアップを簡素化する構成ウィザード。 
• データ検索の効率を高めるテキストベースの検索。 
• 堅牢なセキュリティソリューションの作成を支援する高度な設計ツール。 

マルチモーダルモデルと呼ばれる新しいモデルは、テキストだけでなく、音声、画像、動画を入力として受け取り、テキストや画像の形で結果を生成することができます。このモデルは、現場で起きていることを新たなレベルで分析することが可能であり、セキュリティ分野において新たな可能性を生み出すことが期待されます。以下のような用途が含まれます:  

• オペレーターが直ちに注意を払う必要のある重要なイベントを強調表示します。 
• 傾向を分析し、共通のパターンを見つけます。 
• 関連する情報や対策を提案することで、オペレーターの調査を支援します。 
• レポートのためにビデオや画像を要約します  

正確さとデータ品質を改善させるための作業

劇的な進歩にもかかわらず、生成AIは複雑なシーンや人間の行動のニュアンスを理解する上で、いまだに限界に直面しています。モデルは依然として正確でない発言や提案を考え出す、いわゆるハルシネーションを起こしやすいのです。  

もう一つの限界は、モデルに推論や論理的演繹が欠けていることです。このような制限があるため、セキュリティ上重要な施設でのモデルの使用は非常に困難です。私たちは、出来事が見逃されたり、間違った結論が導き出されたりすることがないように、単純に頼ることはできません。 

セキュリティの文脈でモデルを使用するもう一つの側面は、モデルのトレーニングデータを徹底的に管理しない限り、モデルが示すかもしれない偏った行動のリスクを管理する必要があるということです。 

このことは、意思決定プロセスにおける人間の関与を維持し、倫理的配慮を守り、意思決定の質を損なわないようにすることの重要性を強調しています。このため、セキュリティ分野でLLMが導入される最初のユースケースは、フォレンジック検索の支援やオペレーターへの提案になります。私たちはまだ人間をループの中に入れておく必要があります。イノベーションのペースが速いため、私たちは新しい能力の採用と新技術のリスク軽減のバランスを見つける必要があります。 

AIカメラとエッジAIの可能性 

しかし、どんな新しい技術にも克服すべき課題があります。まだ比較的初期段階にあるとはいえ、セキュリティ分野におけるAIは、従来のセキュリティや安全性のユースケースを強化する大きな機会をもたらすと同時に、あらゆる業界の業績を改善する大きな可能性を解き放つことは明らかです。  

エッジAIを提供するAIカメラは、分析機能の精度を高め、システムのスケーラビリティを可能にし、信頼性が高く、スケーラブルで帯域幅効率の高いクラウドソリューションの基盤を形成することで、こうした機会の多くに基盤を提供します。 

エッジAI分析機能によって作成される追加メタデータは、画像センサーによってキャプチャされたビジュアルデータを詳細に記述し、潜在的な分析と実用的な洞察のレイヤーをさらに追加します。やがて、メタデータの集約と分析が、組織の運営のあらゆる側面を変革する意思決定に反映されるようになるでしょう。 

AIカメラ内の処理、エッジで作成される高度なメタデータ、そして一般的に ハイブリッドソリューションと呼ばれるサーバーまたはクラウドでの追加処理を組み合わせることで、より高度なDLベースの分析機能のための拡張可能でコスト効率の高いモデルを作成します。  

これにより、従来のセキュリティや安全アプリケーションを超えた価値を提供する新たな機会が生まれます。カメラをIoTセンサーやクラウドコンピューティングなどの他の技術と組み合わせることで、都市、交通、小売、産業部門などのさまざまな分野で、視覚データを新しい方法で分析できます。  

市当局は、視覚データと環境データを組み合わせて分析し、大気質の改善、騒音公害の軽減、サービスやインフラのより良い計画を通じて、市民生活を改善しています。企業は、ビデオ監視や音声センサーからのデータを機械や設備の予知保全に活用し、効率化とサービス提供の改善を図っています。小売店は、来店者情報を顧客サービスや店舗レイアウトの改善に活用しています。可能性は無限大です。

責任あるAIの革新、導入、利用

あらゆる形態のAIは大きなチャンスをもたらす一方で、どんな新しい技術も新たな脅威やリスクをもたらす可能性を秘めています。製品にAIを利用する全ての技術ベンダーは、これらのリスクを軽減するために、責任ある方法でAIやその他の技術を開発し、展開する責任を認識する必要があります。

規制がその役割を果たすことは明らかです。EUは最近、AIをめぐる史上初の法的枠組みのAI法を採択しました。また、米国をはじめとする世界各地で、イノベーションを促進しながらAIの潜在的なリスクを軽減する最善の方法について、さまざまな法律が議論されています。でも、それだけでは不十分です。全ての革新的な技術企業は、自社および顧客のビジネスにおいて、責任ある倫理的なAIの活用を推進する必要があります。

AIとサイバーセキュリティ

サイバーセキュリティ、データと人々のプライバシーの保護は、セキュリティ部門にとって長年の焦点でした。これは、サイバー犯罪者自身が脆弱性や新たな攻撃ベクトルを探すためにAIを活用するようになるためです。このような犯罪組織は、潤沢な資金と高度な専門的技術を持ち、AI軍拡競争においてもう一つの優位性を持っています: 彼らは規制や倫理を気にすることなく、イノベーションを起こすことができるのです。

データのセキュリティとプライバシーを最優先することは、今後も最重要課題です。全てのセキュリティ技術ベンダー、特にAIを利用するベンダーは、データガバナンスに対して人権に基づくアプローチを取り、データの収集、処理、利用が人権の原則に沿ったものであることを保証し、公正で公平かつ安全なデジタル環境を育成する必要があります。また、不正アクセスや悪用から保護するための強固なセキュリティ対策の実施や、公平で偏りのないデータの表現とアクセスに努めることでデータの公平性を促進することも要求しています。 

また、監視カメラやネットワークデバイスでのAIの利用が新たなユースケースを生み出し、サイバーセキュリティに関する新たなリスクや懸念を引き起こすことも懸念されています。したがって、新しいAIソリューションの開発段階と導入段階のいずれにおいても、サイバーセキュリティが最優先事項であり続けることが極めて重要です。

責任を持って倫理的にAIの可能性を解き放つために

AIがセキュリティ分野にもたらすチャンスは刺激的です。AIは人間の知能を増強することができ、AIの責任ある開発は人々と社会に利益をもたらします。これは、よりスマートで安全な世界のためにイノベーションを起こすというアクシスのビジョンによく合致しています。 

私たち自身のスキルや能力を補強するAIの可能性によって、私たちは人間の専門知識を必要とする仕事に、より多くの貴重な時間を費やすことができるようになり、人の価値はこれまで以上に高まります。 

私たちは皆、倫理的かつ社会的に責任のある方法でAI技術を利用することを約束しなければなりません。つまり、製品・サービスであれ、働き方であれ、AIのイニシアチブは、公平性、透明性、説明責任、プライバシーと人間の尊厳の尊重という原則によって導かれるべきであるということです。