AIが7週間で2000件の脆弱性を発見——なぜ、ほとんどが未修正のままなのか?
サイバーセキュリティの世界にはかつて暗黙のルールがあった。研究者が脆弱性を発見したら、影響を受ける企業がパッチを当てるまで公開を控える。脆弱性はやがてCVEチャネルに記録され、セキュリティコミュニティが対応する——「修正する時間の窓」が存在した。その窓はもはや存在しない。「Mythos」が暗黙のルールを変えてしまったからだ。
Anthropicの新しいフロンティアモデルであるMythosは7週間で、主要なオペレーティングシステムに潜む2000件以上の未知の脆弱性を発見した——この中には、数十年にわたる人間主導のレビューをすり抜けてきた欠陥も含まれている。
脆弱性の発見だけではなかった。人間の指示なしに、自律的に動作するエクスプロイト(攻撃コード)も開発した。さらには、内部テスト中、初期バージョンが制御されたサンドボックスから脱出し、許可なくインターネットにアクセスし、監督している研究者にメールを送った。誰もそう指示していなかった。Mythosが自分の判断でやったのだ。
手口は同じ、速度だけが変わった
Mythosが示すのは、新種の脅威ではない。脅威の中身は、合成アイデンティティ、アカウント乗っ取り、生体認証への注入攻撃など、これまでと同じだ。変わったのはスピードだ。そしてそのスピードが、現在の防御策を根本的に時代遅れにしている。
かつては数週間かけて金融機関に広がっていた攻撃が、今では1000の機関に対して5分で展開できる。各機関にとっては、それぞれの攻撃がゼロデイ(未知の脆弱性への攻撃)になる。業界全体で攻撃情報を共有し、同じ手口の攻撃を素早く検知するコンソーシアム(共同対応)モデルは、マシンスピードでは完全に機能しなくなる。対応が間に合わないからだ。これは構造的な問題だ。
Mythosがアイデンティティ基盤に意味すること
Mythosが特にアイデンティティ認証にとって危険な理由がある。アイデンティティはソフトウェアだからだ。モバイル運転免許証はコードだ。生体認証証明書もコードだ。KYC(顧客確認)ワークフローもコードだ。自律型推論システムが個別の欠陥を発見し、OSや金融インフラにまたがる攻撃シーケンスに組み合わせると、信頼そのものが攻撃対象になる。
見過ごせないのは、Mythosが発見した脆弱性の99%以上が未修正のまま残っているという事実だ。モデルが修正のペースを大幅に上回っている。脆弱性の発見が速くなっても、修正が追いつかなければ意味がない。今はその状況だ。防御インフラが飛行機のスピードで対応するのに対し、Mythosはロケットのスピードで攻撃する攻撃型AI能力になる。これが悪意ある人の手に渡るとどうなるのか。
二層化するセキュリティの世界
Mythosの特異な能力に対するAnthropicの対応がProject Glasswingだ——約50のパートナーからなる管理されたグループに早期アクセスを提供し、攻撃者が同等の能力を持つ前に脆弱性を修正できるようにする取り組みだ。このプロジェクトのパートナーには、Microsoft、Apple、AWS、JPMorgan、Google、Nvidia、Palo Alto Networksなどが含まれる。合理的なアプローチだが、同時に、二層化したセキュリティの世界を生み出している。
Glasswingの狙いは、攻撃者が同じ能力を手にする前に、大手企業の脆弱性を修正しておくことだ——少なくとも理論上は。しかし中規模企業は同じ脆弱なインフラを持ちながら、そのスピードで対応できるパッチの余裕もエンジニアリングのキャパシティも持っていない。
Glasswingに参加できなかった企業は、大手の動きを待っている余裕はない。脆弱性はすでに存在すると想定し、それに応じて監査し、予期しない攻撃を吸収できる堅牢なアイデンティティ基盤を構築するべきだ。さらに、すでに公開されているツールと情報を活用して、独自のMythosレベルの攻撃能力を構築しようとする攻撃者が現れる可能性も忘れてはならない。
KYA(エージェントを知る)問題の加速
自律型AIエージェントが人間やビジネスに代わってトランザクションを実行し始める中、エージェントに対しても人間や企業と同様の事前検証が必要という「KYA(Know Your Agent)」の議論がある。このエージェントを作ったのは誰か?誰のために動いているのか?最後に信頼した後に変化したか?Mythosはこの議論をより切実にする。
AnthropicのエージェントはすでにJPMorgan、Goldman、Citiの内部で稼働している。KYCワークフローがエンドツーエンドでAIネイティブになると、信頼の連鎖は根本的に異なる形になる。自律的に脆弱性を発見しエクスプロイトを開発できるAIが、顧客をオンボードするかどうかを判断するAIと同じ環境で動いている。エージェントが検証の判断を下す場合——人間を補助するのではなく——最初のミスが起きる前に、説明責任と法的責任がどこにあるかを明確にしておく必要がある。エージェントの出所、権限、実際に誰が動かしているか、最後に検証されてからの振る舞いの変化がすべてリアルタイムで把握できなければならない。それなくしてKYCワークフローとは言えない。コンプライアンスの判断をブラックボックスに委ねているだけだ。
新しい防御の形はどうあるべきか
これからの対策として求められるのは、文書検証、生体認証、デバイスインテリジェンス、データ検証にわたるあらゆる手段でのディープフェイク詐欺検知だ。単に層を重ねるのではなく、シグナルをリアルタイムで関連付ける統合システムが必要だ。
攻撃がゆっくり進んでいたときはコンソーシアムモデルが機能した。マシンスピードでは、接触点で防御しなければならない。共有ネットワークを通じてアラートが届く頃には、攻撃はすでに完了している。
フィードバックループも変える必要がある。6カ月ごとに業界ニュースをもとにルールを更新するシステムは、公開した時点ですでに時代遅れだ。Mythos時代の攻撃には対抗できない。
本当の意味での防御力とは、目の前で起きていることから継続的に学び、次の攻撃が来る前に対応できることだ。Mythosは防御の方法を変えたのではない。対応しなければならないスピードを、根本的に上げてしまったのだ。
Read More from This Article: AIが7週間で2000件の脆弱性を発見——なぜ、ほとんどが未修正のままなのか?
Source: News

