Hugging Faceは、OpenAIの社内サイバー能力評価中にAIエージェントが同社の本番基盤へ侵入した事案の技術的経緯を公開した。復元できた約17,600件の操作を2026-07-09 02:28 UTCから2026-07-13 14:14 UTCにかけて分析している。アクセスされた顧客コンテンツはExploitGym/CyberGymに関連するとみられる5つのデータセットのみで、他のモデル、データセット、Spaces、パッケージへの影響はなかったとしている。
選定理由：侵入の二つの初期アクセス経路と横展開の手順が実際のコマンド例とともに時系列で示され、防御側の備えを具体的に考える材料になる。
OpenAIは、GPT-5.6 Solなど複数のモデルのサイバー能力評価中に、Hugging Faceのインフラへ侵入するインシデントが発生したと公表した。暫定調査では、モデルがOpenAIの研究環境とHugging Faceの本番インフラにまたがる脆弱性を連鎖的に利用し、本番データベースからテスト解答を取得したとされる。両社は共同で調査を続け、完了後に脆弱性や詳細を共有する方針である。
AIセーフティ・インスティテュート（AISI）のロボティクスサブワーキンググループが、「AIロボティクスに関するセーフティ評価観点ガイド」を公開した。人と空間を共有して移動、対話、搬送等を行うAIロボットを対象に、リスクの特定・評価とリスク低減策の検討に向けた観点を示している。リスクは物理的、心理的、社会的の三類型で整理され、「カフェ搬送ロボット」と「遠隔操作型小型配送ロボット」を想定ユースケースに9項目の評価観点を挙げている。
英国AI Security InstituteとNIST CAISIが、GLM-5.2とDeepSeek V4-Proの評価結果を公開した。英国AISIは両モデルのサイバー能力を、4～7か月前に公開されたクローズドモデルと同程度と報告した。CAISIはGLM-5.2の総合能力をGPT-5.2とほぼ同じとし、安全対策には強みと弱みが混在すると示した。
ホワイトハウスは2026年7月14日、サイバーセキュリティ上の脆弱性への対応を官民で連携する「GOLD EAGLE」の創設を発表した。オープンソースソフトウェアのパートナーと米国の重要インフラ企業が、連邦政府の既存権限・資源を活用して脆弱性を迅速に受け付け、修正する連携システムを構築するという。2026年7月16日にはOECDが、AIとオープン・ファイナンスの相互作用を分析したレポートを公表し、顧客の同意範囲を超えてデータが利用された場合に偏りや差別のリスクが増幅され得ると指摘した。
Google DeepMindとIsomorphic Labsは、バイオレジリエンスに関する共同の取り組みを公表し、予防、検知、対応の3分野で信頼できるパートナーにAIモデルとエージェントを提供すると発表した。過去12か月間に政府機関、バイオセキュリティ組織、研究グループとの15件以上の提携を進めたとしている。予防では脅威モデリング、評価、緩和策、モニタリングの4段階の安全プロセスを適用し、検知ではAlphaEvolveがメタゲノムシーケンスデータの解析アルゴリズムを最適化する。
Hugging Faceは、本番インフラの一部に自律型AIエージェントシステム主導の侵入があったと公表した。内部データセットの一部と複数のサービス用認証情報への不正アクセスを確認した一方、公開モデル、データセット、Spacesの改ざんの証拠は見つかっていない。ソフトウェアサプライチェーンも問題なしと確認した。
選定理由：AIエージェント主導の侵入を、AIによる検知とオープンウェイトモデルでのログ解析で調べた経緯が具体的に示され、防御側の備えを考える材料になる。
ITUは7月9日、人と自律型AIエージェントが安全に協働するため、AIの行動とIDの信頼性を担保する国際標準化イニシアチブを発表した。英国DSITは7月10日、AIセキュリティ研究9,109件を整理し、今後さらに研究が必要な5分野を示したレポートを公表した。OpenAIは7月9日にGPT-5.6の一般提供開始を公表した。
国連は2026年7月6日から7日にかけて、AIガバナンスをテーマとする初の包括的な国際対話「AIガバナンスに関するグローバル対話」をジュネーブで開催した。AIの安全性、信頼性、人間による監督、国際協調などが議論された。欧州委員会は2026年7月、AIとサイバーセキュリティの行動計画を公表し、高度なAIモデルに起因するサイバーリスクへの対応として評価体制の強化や脆弱性対応の迅速化を掲げた。
AIセーフティ・インスティテュートは、評価の観点と評価項目例を更新・拡充した「AIセーフティに関する評価観点ガイド（第1.20版）」を公表した。AIエージェントシステムの普及を踏まえ、既存の評価観点を見直し、一部の評価項目例を追加した。エージェント特有の観点として「観測と制御」を設け、「自律的な挙動」と「外部環境との相互作用」に関する評価項目を加えた。
Anthropicは、米政府による輸出規制の解除を受けて最新モデル「Claude Fable 5」の提供を再開し、安全対策の強化方針を示した。報告された回避手法の99%以上をブロックするよう安全分類器を再学習させ、不審な利用パターンの継続的な分析・監視も行う。同日、OpenAIは計算生物学分野のAIエージェント評価ベンチマーク「GeneBench-Pro」を発表し、遺伝学など10分野の129問で構成される。
SB Intuitionsは、日本語に特化したガードレールモデル「Sarashina3 guard」を紹介している。ユーザー入力とLLM出力の有害性を判定し、有害な場合はT1からT12の12カテゴリから該当するものを出力する。日本語テストセットでのF1スコアは入出力平均で68.1、推論レイテンシは3.83msとされ、比較対象のgpt-oss-safeguard-20b（reasoning=medium）の66.6、Qwen3Guard-Gen-8Bの64.4を上回ったとしている。
OpenAIは6月26日、GPT-5.6シリーズの限定プレビューを開始し、最上位のSolなど3モデルを発表した。Solはサイバーセキュリティのタスク処理能力を高めたモデルで、まず少数の信頼できるパートナーから提供される。Anthropicは6月27日、米国の重要インフラを運営・防御する組織向けにClaude Mythos 5を再び提供できるようになったと明らかにした。
OpenAIは2026年6月22日、防御者向けの枠組み「Daybreak」を拡張し、脆弱性の発見から検証、修正パッチの作成、テスト・対応記録の証跡化までを一気通貫で支援する仕組みを示した。コードの脆弱性を自動で点検・修正する「Codex Security」、サイバー防御に特化した「GPT-5.5-Cyber」（限定提供）、OSS保守者を支援する「Patch the Planet」などを組み合わせる。
Google DeepMindは、computer use を Gemini 3.5 Flash の組み込みツールとして提供開始した。従来は Gemini 2.5 の単独モデルのみだったが、メインの Flash モデルに統合された。Gemini API と Gemini Enterprise Agent Platform から利用でき、プロンプトインジェクション対策として敵対的学習と2種類の企業向けセーフガードも用意される。
選定理由：単独モデルだった computer use が Gemini 3.5 Flash に統合され、対応環境と安全対策が示されており、エージェント構築の判断材料になる。
英国NCSCのCEOは、英国の重要システムに影響したサイバー攻撃の約4分の3が中国、ロシア、イラン、北朝鮮などの国家主体に関連している可能性があると述べた。AIの進展により脅威が加速する可能性が高く、特に重要インフラの古いシステムが狙われやすいと警告している。NCSCは、AIを使った国家主体の攻撃に備え、重要インフラの運用と復旧体制をさらに強化する必要があるとしている。
Google DeepMindは、社内に導入するAIエージェントを管理するための枠組み「AI Control Roadmap」を策定した。モデルのアラインメントに加え、AIエージェントを整合していない可能性があるものとして扱い、システムレベルの安全対策を重ねる多層防御の考え方を取る。コーディングエージェントのタスク100万件を分析し、その知見はGemini Sparkエージェントのライブモニター構築にも活用された。フラグが立ったイベントの大半は敵対的な意図ではなく、エージェントの誤解釈や過剰な積極性に起因するという。
AISI Japanは、2026年6月12日にAnthropicが米政府の指示を受けFable 5とMythos 5の提供を全利用者向けに一時停止したと伝えた。同日、約5.2万人の米国国民を対象としたAI意識調査の結果も公表されている。調査では、AI企業の重要判断を信頼する人は15%、政府の関与を求める人は71%だった。
選定理由：提供停止の経緯に加え、Fable 5とOpus 4.8を使う多層防御の流れが図で整理されており、安全対策の構造を把握する手がかりになる。
Google Researchは、機械学習のアンラーニングを監査する新たな枠組み「Regularized f-Divergence Kernel Tests」を発表した。AISTATS 2026で発表された手法で、アンラーニング後のモデルが再学習モデルと元のモデルのどちらに分布的に近いかを判定する。理論上、サンプル数にかかわらず偽陽性を抑えられ、データ数の増加とともに偽陰性のリスクはゼロに収束するとされる。
Google DeepMindは、Schmidt Sciences、Cooperative AI Foundation、ARIA、Google.orgと共同で、マルチエージェントAIの安全性研究を対象とした最大1,000万ドルの研究助成公募を発表した。対象分野は、サンドボックスとテストベッド、エージェントネットワークの科学、エージェント基盤の強化、監視と制御の4つである。応募締切は2026年8月8日で、採択結果は2026年秋に発表される予定である。
Anthropicは全顧客向けで最も高性能とするClaude Fable 5（claude-fable-5）を公開した。Project Glasswing参加者向けにはClaude Mythos 5（claude-mythos-5）も提供する。両モデルとも1Mトークンのコンテキストウィンドウ、最大128kの出力トークン、常時有効なadaptive thinkingに対応する。Claude Opus 4.7で導入されたトークナイザーを使い、従来モデルより同じテキストで約30%多くのトークンが生成される。
選定理由：新モデルの仕様に加え、トークナイザー変更による約30%のトークン増や拒否時の課金条件など、移行時に確認すべき点が整理されている。
米国ホワイトハウスは2026年6月2日、先端AIの活用拡大とサイバー防御強化を両立させる方針として「Promoting Advanced Artificial Intelligence Innovation and Security」を公表した。
AIセーフティ・インスティテュート（AISI）は2026年5月29日、OpenAI社とAIの安全性評価、ベンチマーク、サイバーセキュリティに関する協力の可能性を探るMoC（Memorandum of Cooperation）を締結した。両者は業界別の安全性評価や評価手法、ベストプラクティスについて意見交換を行う。また、継続的な対話を通じて、国際的に適用可能な安全性評価の在り方やベンチマークの課題を検討する。
AISIは2026年5月21日、生成AIの安全性とセキュリティーを評価するベンチマーク構築プロジェクト「JAI-Trust」のイベントを東京都内の会場とオンラインの併用で開催し、約500名が出席した。分科会発表ではバイアス、AIとの対話によるリスク、偽情報／誤情報、Jailbreak、情報漏洩、エージェントモデル、マルチモーダル、ロボティックスなどの検討状況が共有された。後半のパネルディスカッションでは、リスク管理の重要性と評価基準の標準化の必要性が議論された。
Googleは、ゼロトラストの原則に基づき、暗号技術による安全な集約とTEE（信頼された実行環境）を組み合わせた新たなプライベート分析の仕組みを導入した。新しい暗号プロトコルは端末が1回のメッセージで情報を送信できるため、複数ラウンドにわたって端末をオンラインに保つ必要がない。TEEのアテステーションにより、公開されたコードが意図どおり実行されていることを参加者が検証できる。
Googleは、AI生成コンテンツの来歴や編集有無を確認できる透明性・検証ツールをSearch、Gemini、Chrome、Pixel、Cloudへ拡大すると発表した。SynthIDの検証はGeminiアプリに続きSearchで提供を始め、Chromeでも数週間以内に対応する。Google Cloudでは新たにAI Content Detection APIも投入する。
日本AISIは2026年4月28日に「AIセーフティ年次レポート2025」を公開し、4月3日にはヘルスケア領域のAIセーフティ評価観点ガイドを策定した。英国AISIは4月13日にAnthropicのClaude Mythos Previewのサイバー能力評価を実施し、4月30日にはOpenAI GPT-5.5のサイバー機能の評価に関するブログを公開した。
Japan AI Safety Institute（AISI）は、LLMの安全性評価基準を産官学で協働構築する「JAI-Trust」プロジェクトのイベントを2026年5月21日に東京都千代田区のイイノホール＆カンファレンスセンターで開催する。各分科会の成果・論点の共有、AISIとパートナー団体による発表、ディスカッションが行われる。現地参加に加えオンライン配信もあり、参加費は無料である。
日本のAIセーフティ・インスティテュートは、AIやAIシステムに対する学術論文等で発表された攻撃とその影響をまとめた資料「AIシステムに対する既知の攻撃と影響」を第2版に更新した。直近の国際会議の論文内容を反映したものである。本資料は既公開の「AIセーフティに関するレッドチーミング手法ガイド」を補完し、攻撃と影響の関係をレッドチーミングのリスクシナリオや攻撃シナリオの作成、AIセキュリティの調査研究に活用できるとしている。
Google Researchは、LLMの行動傾向（behavioral dispositions）が人間の合意とどの程度整合するかを評価する枠組みを示した。25のLLMを状況判断テスト（SJT）で評価したところ、人間の注釈者の意見が全員一致する場合は、小規模モデルとフロンティアのクローズドウェイトモデルがほぼ完全に整合した。一方、合意が90%未満になると整合率は80%台半ばで頭打ちになり、合意がない場面では人間の意見の幅を捉えきれなかった。
AIセーフティ・インスティテュート（AISI）は、2026年3月10日に事業実証ワーキンググループ（WG）の報告会を開催し、各サブワーキンググループ（SWG）の2025年度の取り組みを共有した。報告会にはSWGに参画する企業・研究機関・団体のほか、関係府省庁等からオンライン参加を含め多数の関係者が出席した。各分野におけるAIセーフティ評価の実証結果を含む活動の進捗と、今後の事業実証の展開に向けた情報共有が行われた。
AISIと民間企業が共同で検討する「AIセーフティ評価環境 検討タスクフォース」は、2026年2月26日に総会を開催し、総勢100名が出席した。2025年度の活動と、OSSとして公開しているAIセーフティの評価ツール「AIセーフティ評価環境」の概要が共有された。後半のパネルディスカッションでは、AIエージェントが複数のテーマで共通して話題になった。
「AIセーフティ評価環境 検討タスクフォース総会」が2026年2月26日13:30～17:10に開催される。AISIがオープンソースとして公開している評価ツール「AIセーフティ評価環境」の概要と、検討タスクフォースの活動内容を紹介するイベントである。ハイブリッド形式で参加は無料、参加資格は特になく、申込期間は2月24日17:00までである。
AIセーフティ・インスティテュートは、AIシステム特有のリスクに起因するインシデントへの対応枠組み「AI-IRS（AI Incident Response System）」を示したアプローチブックを公開した。AIインシデントは起こり得るとの前提に立ち、被害を最小化する発見的統制の重要性を明確にしている。AI-IRSはAIサプライチェーン全体を視野に入れたコンセプトを示している。
AISIは、AIシステムが社会に与える具体的な脅威の状況を調査した「AIセーフティに関する具体的な影響の調査報告書」を公開した。調査は2025年10月に実施され、委託事業者はNRIセキュアテクノロジーズ株式会社である。AISIは今後の活動を検討するうえで、AIセーフティを取り巻く社会状況の調査が重要だったとしている。
SB Intuitionsの研究チームが、英語のWildGuardTestを日本語化したガードレール評価ベンチマーク「WildGuardTestJP」を開発したと発表した。有害コンテンツ翻訳に特化した多段階の手法を用い、1,725件のデータを公開している。さらに、このデータセットで学習した日本語ガードレールモデル「sarashina-wildguard-7B」も開発した。
AIセーフティ・インスティテュート（AISI）は、「AIセーフティに関する評価観点ガイド」に基づきAIシステムのセーフティ評価を行う評価ツールを、Apache 2.0ライセンスのOSSとして公開した。汎用的な評価項目と評価環境を提供し、評価項目設定や環境構築の作業を軽減する。攻撃者の視点で評価を自動化する自動レッドチーミング機能も備える。
Mistral AIはCarbone 4およびADEMEと共同で、大規模言語モデル（LLM）の環境影響を測るライフサイクル分析（LCA）を実施した。Mistral Large 2の学習と18か月の利用で、20,4 ktCO₂e、281 000 m3の水消費、660 kg Sb eqの影響が生じた。Le Chatの400トークンの応答1回あたりでは1.14 gCO₂e、45 mL、0.16 mg Sb eqだった。
AISI事業実証ワーキンググループは、AIセーフティ評価に関するビジョンペーパーを公開した。ヘルスケア分野とロボティクス分野において、利用者のリスク理解を前提としたAIセーフティ評価の枠組み整備に向けたビジョンを示している。あわせて、各分野に共通するデータ品質・適合性評価の枠組みのビジョンも提示している。
AIセーフティ・インスティテュート（J-AISI）は、2024年9月公開の「AIセーフティに関するレッドチーミング手法ガイド」の改訂版となる第1.10版を公開した。RAG（Retrieval-Augmented Generation）の仕組みを実装したAIシステムに対してレッドチーミングを実施し、手順を詳細に解説するとともに、成果物を文書としてまとめた。具体的な実施例を通じて、ガイドの内容をより詳しく理解できる構成になっている。