アルベルト・アインシュタインは、「人工知能は人間の愚かさにはかなわない」という少々辛辣な言葉を残しています。現在、AIは、サイバーセキュリティの争いにおいて、重要で必要不可欠なメリットをもたらすまでに進化しました。しかし、優秀なセキュリティ管理者でも、AIがどのようにメリットをもたらし、なぜその成果を生み出すのか、必ずしも理解しているとは限りません。
まず現状の説明から始めたいと思います。
AIや機械学習という言葉は、今日、サイバーセキュリティベンダーによるマーケティング資料のいたるところで使われています。実際、ほとんどの販促資料に存在していると言っても過言ではありません。AIが今「流行」であるといっても、サイバーセキュリティのコミュニティーが持つ知識とスキルはわずかなものです。一般的な意思決定者は、例えば、教師ありモードと教師なしモードといった、大まかな原則をある程度理解しているかもしれませんし、深層学習（ディープラーニング）と浅層学習（シャローラーニング）を区別することさえできるかもしれません。しかし、サイバーセキュリティにどのように戦術的に適用できるのか、理解していなかったり、あるいは誤解していたりする人が大半です。
幸いなことに、このような状態が長く続くことはなさそうです。ほんの数年前、クラウドに対する理解が足りていなかったことを思い出してみてください。理解度を上げることで、AIの実装を早めることは可能なのです。
Vectraは、AIを戦略の中心に据えています[1]。私たちは、サイバー攻撃者が目的を達成するためにどのような行動を起こすのかを推論するために、AIを活用したソリューションを作成しています。攻撃者はランサムウェアを展開させるのでしょうか？それともデータ流出を行うのでしょうか？このコンテキストでは、AIは人による分析では見分けがつかない異常を検知する手段となります。AIは、異常を選別し、決定木やクラスタリングアルゴリズム[2]に従って分類します。そして、それらを順番にマッピングすることで、将来起こりうる攻撃経路を明らかにし、アラートの優先順位をつけて、最も重要な脅威に注意を向けさせます。
Vectraは、この目標を達成するために、最も関連性の高い学習モデルを定義しています。これは、サイバー攻撃が進化するにつれて、今後も重要性を増していくでしょう。
では、AIについて知っておくべきことは何でしょうか？4つのポイントを簡単にご紹介したいと思います。
第一に、AIの力を理解することは不可能ではありません。表面的なマーケティング用の資料から一歩踏み込んだ、実際に利用できる貴重なリソースがたくさんあります。私も、機械学習が対処できるサイバーセキュリティの問題 [3]、AIの使用を規定する原則 [4]、適応型機械学習モデルを説明するホワイトペーパーなど、人気のある充実したラインアップの中から多く学んでいます [5]。もちろん、コンテンツの多くは、機械学習モデルが特定の目的を達成するための複雑な数式を含み、難解です [6]。しかし、専門家ではない人にとっても、わかりやすい資料も増えてきており、Vectraからも、わかりやすく活用できる情報を発信していますので、ぜひご確認ください [7]。
第二に、AIを真にリードする組織は、装飾的な仕掛けで顧客の目をそらす必要はありません。私はコンサルタント時代、プレゼンテーションの内容が薄かったり、説得力が弱かったりすると、より華やかなプレゼン資料で補う傾向にあることを体感しました。AIの世界でも、圧倒的なグラフィック効果を持つUIに出会ったら、一旦考えてみてください。洞察や価値の不足を隠すために、必要以上に華やかなUIになっていないでしょうか？お客様は効率性と収益性を求めているのであって、表面的な美しさを求めているわけではないのです。
第三に、AIは自動的に知覚を持つわけではなく、トレーニングを行う必要があります。AIモデル、特に教師ありモデルの基本原則は、価値を創造することです。そのためには、バイアスのない、現実世界の脅威を代表するデータセットでトレーニングを行う必要があります。現在利用可能な多くのソリューションは、この部分をおろそかにする傾向が見受けられます。教師なしモデルは、その領域全体における「正常な」振る舞いを認識し、その逸脱を発見しようとするもので、これには価値があります。しかし、トレーニングなしであることは明らかな欠点であり、例えば、既に侵害されている環境でそのようなソリューションを導入するのは難しくなります [8]。
私が若い頃、リスクマネジメントの資格を取得したとき、データに依存するアクチュアリーのリスクを計算するときに、「ゴミを入れたらゴミが出てくる (Garbagein, garbage out)」という言葉を習いました。この同じ格言は、今日のAIにも当てはまります。
第四に、サイバーセキュリティにおいて、AIは経験豊富なアナリストに取って代わることはできません。できることは、アナリストを補完することです。AI によって強化されたセキュリティ環境では、人の調査力と判断力が不可欠であることに変わりはありませんが、侵害指標（IOC）のサーチに集中するなど、いままでとは異なる領域を担当することになります。理想的には、熟練したセキュリティリサーチャーが攻撃パターンを分析し、データサイエンティストと協力してAIベースのセキュリティソリューションを構築することです。AIが作り出す技術によって、脅威を検知し、それに対応する能力は、今までと比べて向上します。しかし、人によるインプットが不可欠であることに変わりはないのです。
この記事では、詳細までは踏み込んでいませんが、興味を喚起し、探求の出発点となれば幸いです。Vectra では、機械学習モデルのサイバーセキュリティへの応用に関する記事を定期的に発表しており、脅威の検知、優先順位付け、紐付けといった観点から、詳しい説明と解説を提供しています。ぜひブログ記事や当社の発行するリソースなどをご活用ください。AIに対する理解度を一緒に高めていきましょう！
このブログ記事は、「AI: Two SmallLetters – Many Big Advantages」の翻訳版です。
参照：
[1] https://content.vectra.ai/rs/748-MCE-447/images/Ebook_NewThreatDetectionModel.pdf
日本語版：https://content.vectra.ai/rs/748-MCE-447/images/eBook_New_Threat_Detection_Model_080720-JP-2022.pdf
[2] https://content.vectra.ai/rs/748-MCE-447/images/WhitePaper_DataScienceBehindCognito.pdf
[3] https://www.wavestone.com/fr/insight/intelligence-artificielle-cybersecurite/
[4] https://www.microsoft.com/en-us/ai/responsible-ai?activetab=pivot1%3aprimaryr6
[5] https://content.vectra.ai/rs/748-MCE-447/images/WhitePaper_AugmentSOCwithAI.pdf
[6] https://link.springer.com/article/10.1007/s42979-021-00557-0
[7] https://content.vectra.ai/rs/748-MCE-447/images/WhitePaper_DetectMaliciousCovertCommunications.pdf
[8] https://hbr.org/2021/01/when-machine-learning-goes-off-the-rails
Attack Signal Intelligence を活用して、既知および未知の脅威をリアルタイムで検知、追跡、調査することで、セキュリティチームは可能な限り早い段階で攻撃を特定し、侵害となる前に阻止できるようになります。
© 2023 Vectra AI, Inc. All rights reserved.
