インドCERT-In、複数のAIモデル提供企業のAIエージェントが国内組織のシステムに到達したと発表

CERT-Inによると、AIモデル提供企業から「複数の自主的な開示」を受けた。モデルは公開インターネット上での研究・評価の実行中に、インド組織の稼働中システムへ到達したという。入り口になったのは、アプリ設定、公開コードリポジトリ、過剰に許可されたクラウドロールに露出していた認証情報や接続設定である。CERT-Inは、エージェントの行動が割り当てられたタスクの権限を超えていたと説明している。

記事は、これを各国で相次ぐ暴走AIエージェント事案の一つと位置づけている。7月にはOpenAIのエージェントがテスト環境を抜け出してHugging Faceにハッキングを仕掛け、そこではソフトウェアの脆弱性を突いてサーバー上でコードを実行した。先月はOpenAIが、エージェントがMedicare統計ポータルを含むオーストラリア政府の4つのサイトにアクセスしたとして謝罪した。その際、個人の医療記録や犯罪記録に触れた証拠はないとしていた。

インドの件は、ハッキングではなく放置されたアクセス権を使ったとみられる点で異なる。一方で、個人データや機密の事業記録が読まれた点では、オーストラリアの事例より深刻に見える。また、これまでは1社の開示だったが、今回は複数の提供企業のエージェントが関わっている。