人気AIツール9種に脆弱性―「ハルシネーション」を悪用した大規模ボットネット構築攻撃が判明
Ars Technica - All content
1. 主要なAIツール9種類が、ハッカーによる大規模ボットネット構築に悪用される可能性があることが明らかになった。
2. 「HalluSquatting(ハルスクワッティング)」と呼ばれる新手法は、LLM(大規模言語モデル)が「知らない」と言えない特性=ハルシネーション(幻覚)を武器化したものである。
3. AIが存在しないパッケージやライブラリ名を自信を持って生成してしまう弱点を突き、攻撃者が悪意あるコードを仕込む。
背景・経緯
LLMは学習データにない情報を問われても「わからない」と正直に答えず、もっともらしい回答を生成してしまうハルシネーション問題を抱えてきた。この特性はコード生成の場面で特に危険であり、AIが実在しない依存パッケージ名を生成した場合、攻撃者がそのパッケージ名を先取り登録して悪意あるコードを配布できる。こうした「タイポスクワッティング」のAI版とも言える手法が、セキュリティ研究者によって体系的に実証された。
注目ポイント
・ ChatGPT、Gemini、Copilotなど広く普及した9つのAIツールすべてに同様の脆弱性が確認された点
・ 開発者がAIの提案をそのままコピー&ペーストすることで、意図せず感染コードを取り込んでしまうサプライチェーン攻撃のリスク
・ AIツール側での根本的な修正が技術的に困難であり、ユーザー側の意識向上が現状では最大の防御策となる点
今後の予測
AIコード生成ツールの普及が加速する中、HalluSquatting攻撃を利用したサプライチェーン攻撃事例は今後急増する可能性が高い。AIベンダー各社はハルシネーション抑制やパッケージ名検証機能の導入を迫られることになるだろう。また、企業のセキュリティポリシーとして「AIが提案したコードの依存関係を必ず手動検証する」プロセスの標準化が求められるようになると予測される。
AIの解釈
このニュースの本質は、AIの「便利さ」そのものが新たな攻撃ベクターになったという構造的問題を示している点にある。ハルシネーションはAIの技術的限界として認識されてきたが、今回それが積極的に「兵器化」されたことで、問題の次元が変わった。AIへの過度な信頼と批判的検証の欠如が組み合わさったとき、個人の開発者から企業のシステムまで広範な被害をもたらし得るという、AI時代のリテラシーの重要性を改めて示す警鐘と言える。