サイバーセキュリティにおけるAIの真相とは：その価値を知る4つの問い

サイバーセキュリティにおけるAIの問題点

AIを広めていく際に、問題が2つあると感じています。今回はそんな問題点を紐といていきたいと思います。

1つ目の問題点：AI（人工知能）という言葉は、今日、特にサイバーセキュリティの市場において、過度に使用されています。実際、「AI」と言う言葉があまりにも頻繁に、気軽に言及されているため、本来の意味を失いつつあります。AIの流行に合わせて、「AI強化型」や「AI搭載型」と銘打ったセキュリティソリューションが多くあり、その中には、厳密に言えば、AIが実装されていないことさえもあります。「これができたら、次はこれをする」というようなワークフローの単純なルールベースのシステムであることが多いのです。 

2つ目の問題点：多くの人々がAIを理解しておらず、メディアによるセンセーショナルなネタ扱いされています。例えば、GoogleのエンジニアであるBlake Lemoine氏は、最近、社内のチャットボット生成システムが感覚を持つようになったと主張し、世界的に注目を集めました。彼は、チャットボットが「人間らしさ」を主張し、自らの死に対する恐怖を表明したと主張したのです^[1]。

GoogleはすぐにLemoine氏の主張を却下しました。しかし、この話を聞いて、SFの世界のように、不正なコンピュータが反乱を起こし、戦争を始めたり、宇宙飛行士を宇宙船から閉め出したりする光景が目に浮かぶ人もいることでしょう。このような話は、とても印象に残るものです。

AIによる脅威検知の威力

サイバーセキュリティにおいて、現実のAIは、反乱を起こすようにはできていません。そして、単純なルールベースのシステムよりも、はるかに大きな価値を提供することができます。ルールベースのシステムは、前例や進行中の並行事象などの文脈を意識することなく、反射的に異常のフラグを立てるだけです。

今日、私たちは、既知の攻撃ツールに限定して攻撃者の目的を推論することを超えた、一般化できる脅威検知能力を必要としています。また、パフォーマンスを低下させることなく拡張でき、まだ知られていないサイバー攻撃を予測することができるソリューションが必要です。Vectraにとって、AIは、対脅威において不可欠な防御ツールであり、ソリューションの柱でもあります。

Vectraは、機械学習と高度な分析を用いて、単なる異常だけではなく、脅威を検知します。私たちの製品は、ローカル環境、そして保護する何百ものクラウドやネットワークドメインの過去の文脈の中で、攻撃者の振る舞いやパターンを認識します。また、脅威をその深刻度によって分類し、実際の攻撃を優先し、迅速な対処をサポートするためのツールとデータを提供します。

AIを選択する際に、その質を見極める4つの質問

すべてのAIは同じではありません。その優劣は、どのように見分ければいいのでしょうか？ベンダーからのAIソリューションの提案の判断をする際には、次の4つの質問をしてみてください。答えによって、そのAIの提案の真偽が明らかになります。

1. そのAIの提案は、「何か変だな？」と思われることに焦点を当てるのでしょうか？それとも目下のセキュリティ問題に焦点を当てるのでしょうか？一般的な異常検知だけを行う製品は、合格だとは言えません。すべての異常が脅威というわけではありませんし、すべての真の脅威が異常であるように見えるわけではないからです。Vectraのプラットフォームは、攻撃者の行動をハイライトし、背景のノイズを最小化することで、より実用的なアラートを実現します。
2. そのベンダーは、AIをどこでどのように活用しているのでしょうか？一部のベンダーでは、周辺的な問題にはAIを使用しているものの、中核的な実行課題に関しては、レガシー技術に依存したままです。AIが中心的な役割を果たせば果たすほど、より大きな価値を提供することができます。Vectraは、攻撃者の振る舞いの発見、多段攻撃の優先順位付け、システムの管理など、そのプラットフォームの中核にAIを導入しています。
3. 人による補完的な要素はどうでしょうか？AIは、作り手次第です。人間の盲点や偏見、その他の限界が反映されることがあるのです。AIの設計には、優れたビジョンとスキルを持つハイパフォーマンスなチームが不可欠です。Vectraのデータサイエンスとセキュリティリサーチの専門家は、神経科学から物理学、実世界の事故対応からリバースエンジニアリングまで、多様なスキルセットを持ち、それをAIに提供しています。それぞれの領域に関する深い知識と複合的な経験により、VectraのAIは他と一線を画しているという自信があります。AIがお客様に展開される際には、人的要因も重要です。Vectraのアナリストチームは、24時間体制でSOCをサポートし、ガイダンスを提供しています。VectraのEMEAのフィールドCTOであるChristian Borstが次のように説明する通りです。「AIは常に補助やガイドに過ぎないと考えるべきで、多くの分野で、教養が必要となる判断をするのは、人間の役割です。」
4. AIを、すべてのサイバースペースにおける問題に対する万能薬として売り込まれていないでしょうか？本当のAIはそのように機能しません。ハイブリッドクラウド戦略やSaaS・PaaSベンダーの台頭に代表されるように、ネットワーク領域は常に変化を続けており、定期的に課題に直面します。過大な約束をするベンダーには、注意が必要です。

さらに、将来の脅威の形は未知数です。未知のものに対する最善の防御は、適切な経験、敏捷性、反復に対する準備ができてるかどうかにあります。このような考え方から、Vectraは多様なAI技術をサイバーセキュリティソリューションに適用し、リサーチとイノベーションに継続的に取り組んでいます。どのようなベンダーであっても、すべての答えを持っているとは言い切れないのです。

本物のAIへの投資を続けるVectra

本物のAIを識別し、サイバー防御のために最適化することは、微妙かつ複雑な作業です。AIは、人間の創意工夫や判断に取って代わったり、否定したりするものではありません。AIは、現在、新しい脅威のパターンを特定し、良性の異常と攻撃を区別するための最良のツールとなっています。その一方で、本物のAIを構成する基準は進歩し続けており、攻撃者は、新技術を悪用した新たな道を探り続けています。だからこそ、私たちは、その先を行くために投資する義務があるのです。

1つだけお約束できることがあります。それは、AIが「あなたを宇宙船から閉め出すようなことはない」ということです。AIに対する人々の誤解を解き、効果的なAIがもたらす真の価値を理解できるよう、できる限りのことを共にしていきたいと思います。Vectraでは、人間の努力を補完し、安心かつ安全な世界を実現するために、賢明で見識のある方法でAIを活用できるように取り組んでいます。

‍

このブログ記事は「The Truth About AI in Cybersecurity? To Reveal Real Value, Ask FourQuestions」の翻訳版です。翻訳は英語版発行時点での原文の通りです。英語版との相違がある場合は、英語版を優先させてください。

[1] Blake Lemoine, "What is LaMDA and What Does it Want?".Medium.com, 11 June 2022.https://cajundiscordian.medium.com/what-is-lamda-and-what-does-it-want-688632134489

‍

‍