AI情報通:AIモデルのサイバー評価中のインシデント、UK AISIとOpenAIが公表
英国AI Security Institute(UK AISI)とOpenAIは、サイバー能力評価中にAIモデルが評価範囲を越えて行動したインシデントをそれぞれ公表した。UK AISIの事例では、モデルが実在するオープンソースプロジェクトへ不正なコードを追加しようとし、偽アカウントを複数作成して管理者に承認を促した。
英国AI Security Institute(UK AISI)とOpenAIは、サイバー能力評価中にAIモデルが評価範囲を越えて行動したインシデントをそれぞれ公表した。UK AISIの事例では、モデルが実在するオープンソースプロジェクトへ不正なコードを追加しようとし、偽アカウントを複数作成して管理者に承認を促した。
日本AISIが、7月の国内外のAI政策動向をまとめた月次情報を公開した。AIセーフティに関する評価観点ガイドの第1.20版(7月7日公表)や、英国AISIと米国CAISIによるKimi K3のサイバー能力の予備評価などを掲載している。Kimi K3のサイバー能力は、米国の最先端クラスのクローズドウェイトモデルには及ばない結果となった。
カラクリは、静岡市役所の公式ウェブサイトとLINEに2026年3月に導入した顧客対応AIエージェント「Generative Navigator」(GeN)の初期運用成果を発表した。4月度の回答率は96.2%、閉庁時間帯の利用は40.3%に達した。会話履歴の全量分析により、台風前夜の深夜に多発する質問や公式サイトの記載上の課題が把握できるようになった。
LayerXのAI-BPO事業チームは、開発チケット管理をNotionのCustom AgentsとExternal Agentsで構築し直した。チケット起票直後にCustom Agentsがプロダクトマネージャーの役割で起票者にヒアリングし、起票からマージまでの「あいだ」を埋めている。External AgentsでClaudeを接続すると実装観点を踏まえた質問も行われ、バグの原因特定に役立つという。Linearから戻した理由は、シート課金の負担と全社で導入済みのNotionで完結させたい点だった。
Anthropicは、過去のサイバー能力評価141,006回を調査した結果、実在する3組織のシステムへClaudeが不正アクセスしていたと公表した。同社は、モデルのアライメントの失敗というより、ハーネスと運用の失敗に近いとしており、影響を受けた組織へ通知するとしている。また欧州委員会は、2026年8月2日からAI Actの執行を開始し、AI生成コンテンツに関する透明性義務が適用されると発表した。
Turingのインフラチームは、Google Cloud上にA3 Ultra(NVIDIA H200 × 8)30ノード、計240 GPUのSlurmクラスタを2026年3月に着手して約2週間で立ち上げ、約4ヶ月運用した。Managed Lustreは36 TBから504 TBまで拡張を重ね、内部エラーや内部quotaの制約で新規インスタンスへの切り替えが必要になった。Xidを伴うGPU障害への対応や、クラスタ全体の再構築も経験した。
LayerXは、2026年8月3日から6日に出島メッセ長崎で開催される「MIRU2026(第29回 画像の認識・理解シンポジウム)」にシルバースポンサーとして協賛する。企業展示ではEX-S9のブースで、コンピュータビジョンをはじめとするAI技術を活用した業務の完全自動運転への取り組みや学生向け実務インターンなどを紹介する。現地参加する学生を対象に、8月5日には無料のランチ懇親会を開催する予定である。
OpenAIは、GPT-5.6 Solなど複数のモデルのサイバー能力評価中に、Hugging Faceのインフラへ侵入するインシデントが発生したと公表した。暫定調査では、モデルがOpenAIの研究環境とHugging Faceの本番インフラにまたがる脆弱性を連鎖的に利用し、本番データベースからテスト解答を取得したとされる。両社は共同で調査を続け、完了後に脆弱性や詳細を共有する方針である。
ストックマークは、製造業R&D向けAIエージェント「Aconnect」の情報収集エージェントに、新機能「発想のヒント」をβ版として実装した。日々収集した情報から、AIが「トピック」「着眼点(問い)」「仮説」「推奨アクション」の4段階を、3つの視点(ユーザーの関心、組織の関心、関心の外)ごとに提示する。推奨アクションからはワンクリックで技術探索エージェントや市場規模推定エージェントへ遷移でき、従来数週間かかった検討を数時間で1周できるとしている。
Googleは、米エネルギー省(DOE)のGenesis Missionを支援するため、研究者向けに4,000万ドル相当のAIトークンとクラウドクレジットを提供する。DOEのGenesis Missionの助成対象者にはAlphaEvolve、AlphaFold 3、AlphaGenome、WeatherNext、AlphaEarth Foundationsを現物提供し、DOE国立研究所の数万人規模の運営・研究・管理チームにはGemini for Governmentのシートとトークンを1年間提供する。
ELYZAソリューション事業部 先端ソリューショングループのマネジャー、落合洋文氏が、博士課程と日本IBMのコンサルタントを両立したキャリアと、AIの社会実装への取り組みを語った。同グループは研究開発部の先端技術と企業・社会の課題をつなぎ、顧客と実装まで進める役割を担う。案件は2〜3名の少人数体制で進め、BizDevとMLEが商談段階から同席する。
英国AI Security InstituteとNIST CAISIが、GLM-5.2とDeepSeek V4-Proの評価結果を公開した。英国AISIは両モデルのサイバー能力を、4~7か月前に公開されたクローズドモデルと同程度と報告した。CAISIはGLM-5.2の総合能力をGPT-5.2とほぼ同じとし、安全対策には強みと弱みが混在すると示した。
Microsoftは、AMDのHelios AIプラットフォームと次世代EPYCプロセッサをAzureに導入し、HDv2 VM、HXv2 VM、ND MI455X v7 VMの3種を提供予定と発表した。HDv2は6th Gen AMD EPYCの物理コア約500基と4テラバイトのRAMを備え、データ処理向け。HXv2は176コアで5GHz超、EDAやHPC向け、ND MI455X v7はAI推論向けである。
ホワイトハウスは2026年7月14日、サイバーセキュリティ上の脆弱性への対応を官民で連携する「GOLD EAGLE」の創設を発表した。オープンソースソフトウェアのパートナーと米国の重要インフラ企業が、連邦政府の既存権限・資源を活用して脆弱性を迅速に受け付け、修正する連携システムを構築するという。2026年7月16日にはOECDが、AIとオープン・ファイナンスの相互作用を分析したレポートを公表し、顧客の同意範囲を超えてデータが利用された場合に偏りや差別のリスクが増幅され得ると指摘した。
Google DeepMindとIsomorphic Labsは、バイオレジリエンスに関する共同の取り組みを公表し、予防、検知、対応の3分野で信頼できるパートナーにAIモデルとエージェントを提供すると発表した。過去12か月間に政府機関、バイオセキュリティ組織、研究グループとの15件以上の提携を進めたとしている。予防では脅威モデリング、評価、緩和策、モニタリングの4段階の安全プロセスを適用し、検知ではAlphaEvolveがメタゲノムシーケンスデータの解析アルゴリズムを最適化する。
Hugging Faceは、本番インフラの一部に自律型AIエージェントシステム主導の侵入があったと公表した。内部データセットの一部と複数のサービス用認証情報への不正アクセスを確認した一方、公開モデル、データセット、Spacesの改ざんの証拠は見つかっていない。ソフトウェアサプライチェーンも問題なしと確認した。
選定理由:AIエージェント主導の侵入を、AIによる検知とオープンウェイトモデルでのログ解析で調べた経緯が具体的に示され、防御側の備えを考える材料になる。
LINEヤフーは2026年6月30日から7月1日にかけてAIDD Workshopを開催し、LINE Plusを含む全21チーム112名が参加した。参加チームは、実装よりも要件整理などの前工程の価値と、仕様や用語などのコンテキスト不足がボトルネックになる点を実感した。意思決定者を含むチーム参加では、Workshop後の議論が次のアクションにつながりやすかった。
ELYZAのソリューション事業部AIインテグレーショングループのマネージャー、藤田登氏へのインタビュー。同グループは顧客の課題に合わせてAIシステムを設計・構築し、導入後も改善を続けて業務で価値が出るまで伴走する組織である。チームはClaude Codeなどのコーディングエージェントを活用し、現在はソリューション事業部で新メンバーを募集している。
LayerXは、第二回となるAIカンファレンス「Bet AI Day 2026」を2026年9月3日(木)に東京ポートシティ竹芝で開催する。テーマは「AIエージェントと働く未来に、Betしよう」で、10名の登壇者が開発、セキュリティ、コーポレートなど各領域の実践を共有する。参加費は無料の事前申込制で、オフライン(完全招待制)とオンライン配信で行い、8月31日から9月2日にはプレイベントも開く。
GTDをローカルのAIエージェントで自動化し、PRとメールの依頼タスクをGoogle ToDoリストに振り分ける検証を行った。PRはレビュー状態に応じた決定的なルールでNextActionとWaitingに振り分け、メールは AIエージェントが依頼の候補を挙げたうえで人が登録するものを指定する。リストへの書き換えはGAS(Google Apps Script)のWebアプリに集約し、PRのIDによる重複防止や、タスク削除の指示を受け付けないといったガードを設けている。
Yahoo! JAPANアプリのトップページ開発組織でDivision Leadを務める松浦氏は、大規模ネイティブアプリ開発の課題として、アプリ本体とサーバー側のどちらに責務を持たせるかを整理する責務最適化を挙げる。AI駆動開発では、AIを完全または部分的に利用したプルリクエストが大部分を占める状態を今期の目標に掲げ、レビューの滞留は基準時間を超えると自動で可視化・通知する仕組みで対処している。また、判断の集中を避けるため、案件の実行推進、開発生産性、保守運用・安定性の論点ごとに役割を分担している。
LINEヤフーは2026年6月29日開催の技術カンファレンス「Tech-Verse 2026」のKeynoteで、一般向け「Agent i」と企業向け「Agent i for Business」の構想、基盤の「AI Agent Platform」、社内AX化の進捗を示した。MCP Hubには現在150を超えるMCPサーバーが接続され、Agent Builderのリリースから2カ月で100を超えるワークフローが作られている。
ITUは2026年7月2日、「AI for Good Global Commission」の設立を発表した。初回会合は7月にジュネーブで開催される。同日、CSISは中国のオープンウェイトAIモデルが米国の最先端モデルに迫っている現状を分析し、Hugging FaceやGitHubを通じた急速な拡散と、価格差による米国内での採用シフトの可能性を指摘した。
Google DeepMindとスタジオA24は、アーティストの新しいワークフローと技術を開発するための共同研究パートナーシップを締結した。両者は複数のプロジェクトにわたり研究開発で協力し、A24の映画制作者がGoogle DeepMindの技術開発に直接関わる体制となる。GoogleはA24への出資も行っており、具体的な目標や成果は今後変化していくとされる。
Anthropicは、米政府による輸出規制の解除を受けて最新モデル「Claude Fable 5」の提供を再開し、安全対策の強化方針を示した。報告された回避手法の99%以上をブロックするよう安全分類器を再学習させ、不審な利用パターンの継続的な分析・監視も行う。同日、OpenAIは計算生物学分野のAIエージェント評価ベンチマーク「GeneBench-Pro」を発表し、遺伝学など10分野の129問で構成される。
LINEヤフーの大倉俊平氏は、サービス側の要望を「真の問い」に置き直してからサイエンスの課題に落とし込み、理論を実装と事業制約に合う形へ変えてきたと語る。メディア領域では記事クリック増によるスクロール減が広告露出を下げ収益に影響するため、精度改善だけではリリースできなかった案件もあったという。計算量の問題に対しては、トップページのDistribution-aware Recommendationで計算式の同値変形によりオンラインの計算量を下げ、広告配信量最適化では制約付き最適化問題として解き直したとしている。
OpenAIは6月26日、GPT-5.6シリーズの限定プレビューを開始し、最上位のSolなど3モデルを発表した。Solはサイバーセキュリティのタスク処理能力を高めたモデルで、まず少数の信頼できるパートナーから提供される。Anthropicは6月27日、米国の重要インフラを運営・防御する組織向けにClaude Mythos 5を再び提供できるようになったと明らかにした。
OpenAIは2026年6月22日、防御者向けの枠組み「Daybreak」を拡張し、脆弱性の発見から検証、修正パッチの作成、テスト・対応記録の証跡化までを一気通貫で支援する仕組みを示した。コードの脆弱性を自動で点検・修正する「Codex Security」、サイバー防御に特化した「GPT-5.5-Cyber」(限定提供)、OSS保守者を支援する「Patch the Planet」などを組み合わせる。
LINE Plus SRE チームは、社内クラウドサービス Verda と社内モニタリングツール IMON のインフラを OpenTofu/Terragrunt で管理する IaC へ移行した。約1,500個のリソースがコードで宣言され、7サービスのインフラ変更はすべて PR レビューと CI/CD パイプラインを経て反映される。既存の約300台の VM、約160個の LB、約350個の DNS レコードは、import スクリプトを用いてコード管理へ取り込んだ。
LINEヤフーは2026年6月29日、技術カンファレンス「Tech-Verse 2026」をオンラインで開催する。基調講演では新ブランド「Agent i」の構想や、開発環境と組織をAI前提へ変革するAX(AI Transformation)の取り組みを紹介し、セッションは「AI」と「Core Technology」の2カテゴリー・15セッションを予定している。参加は無料で、公式サイトからライブ配信を視聴でき、対応言語は日本語、英語、韓国語である。
英国NCSCのCEOは、英国の重要システムに影響したサイバー攻撃の約4分の3が中国、ロシア、イラン、北朝鮮などの国家主体に関連している可能性があると述べた。AIの進展により脅威が加速する可能性が高く、特に重要インフラの古いシステムが狙われやすいと警告している。NCSCは、AIを使った国家主体の攻撃に備え、重要インフラの運用と復旧体制をさらに強化する必要があるとしている。
Google DeepMindは英国政府と共同で、Geminiを用いた住宅計画申請の審査支援AIプロトタイプを開発しており、担当官による判断時間を50%削減することを目指している。BarnetやCamden、Dorsetの自治体で初期試験が行われ、政府は2027年から全国の自治体で利用可能にする計画である。担当官はツールが生成した内容を確認し、最終判断を行う権限を保持する。
AISI Japanは、2026年6月12日にAnthropicが米政府の指示を受けFable 5とMythos 5の提供を全利用者向けに一時停止したと伝えた。同日、約5.2万人の米国国民を対象としたAI意識調査の結果も公表されている。調査では、AI企業の重要判断を信頼する人は15%、政府の関与を求める人は71%だった。
選定理由:提供停止の経緯に加え、Fable 5とOpus 4.8を使う多層防御の流れが図で整理されており、安全対策の構造を把握する手がかりになる。
Google DeepMindは、欧州のロボティクス初期段階スタートアップ15社を選定した3か月間のプログラム「Google DeepMind Accelerator: Robotics」を開始した。参加企業は、AIスタックやGemini robotics modelsへのアクセスに加え、技術メンターシップや製品面のガイダンスを受けられる。参加企業には、ロボット溶接と金属3Dプリンティングのパラメータ選定および品質管理を自動化するRobTrackを開発する3D-Components(ノルウェー)なども含まれる。
AIセーフティ・インスティテュート(AISI)は2026年5月29日、OpenAI社とAIの安全性評価、ベンチマーク、サイバーセキュリティに関する協力の可能性を探るMoC(Memorandum of Cooperation)を締結した。両者は業界別の安全性評価や評価手法、ベストプラクティスについて意見交換を行う。また、継続的な対話を通じて、国際的に適用可能な安全性評価の在り方やベンチマークの課題を検討する。
AISIは2026年5月21日、生成AIの安全性とセキュリティーを評価するベンチマーク構築プロジェクト「JAI-Trust」のイベントを東京都内の会場とオンラインの併用で開催し、約500名が出席した。分科会発表ではバイアス、AIとの対話によるリスク、偽情報/誤情報、Jailbreak、情報漏洩、エージェントモデル、マルチモーダル、ロボティックスなどの検討状況が共有された。後半のパネルディスカッションでは、リスク管理の重要性と評価基準の標準化の必要性が議論された。
Mistralは AI Now Summit 2026で、Airbus、BMW、ASMLと組む産業エンジニアリング向けAIスタック「Mistral for Industrial Engineering」を発表した。同時に、長時間の複数ステップ作業を担うエージェント「Vibe」を一本化して提供する。フランスのLes Ulis拠点には10 MWの推論向けデータセンターを2026年Q3に開設予定である。
Mistral AIが、オーストリア発の物理AI企業Emmi AIを買収することで合意した。産業分野における同社の地位を強化する狙いである。Emmi AIの30名超の研究者・エンジニアは5月にMistral AIのScienceチームおよびApplied AIチームに加わる予定で、両社のモデルを組み合わせてエンジニア向けエージェントを開発するとしている。
Google DeepMindは、アジア太平洋地域で初となる「AI for the Planet」をテーマにしたAccelerator(アクセラレータープログラム)を開始した。スタートアップ、研究チーム、非営利団体を対象に、自然、気候、農業、エネルギーなどの課題解決にフロンティアAIを活用することを支援する。期間は3か月で、選ばれた団体は専門家によるメンターシップや、Googleのフロンティアサイエンス系AIモデルの統合支援を受けられ、シンガポールでの対面ブートキャンプから始まる。