Hugging FaceのIrene Solaiman首席ポリシー責任者は、AIラボが導入を進める第三者による埋め込み型評価者は容易な解決策にはならないと指摘した。ベンチマークの手法はまだ成熟途上で、結果を再現できるかどうかはモデルへのアクセス、特にオープンウェイトが鍵になるという。評価対象もモデル単体からハーネスやエージェントを含むシステム全体へ広がりつつあるが、エージェント評価は難しく高コストで、ハーネス向けの評価は少ない。
AIエージェント向けにウェブを再設計すると、人間を含む他の利用者にとって使いにくくなる可能性があるとする記事。Metaのアプリ「Muse」は公開初月に500万回ダウンロードされ、エージェント由来のウェブトラフィックは8月から9月にかけて3倍になった。一方でAmazonはMuseのエージェントを遮断し、Perplexityとの訴訟で判決を不服として控訴している。
Anthropic共同創業者のJack Clarkは、バンコクで開かれたIMF会合のPer Jacobsson講演で、AIが科学のフロンティアで機能し始めており、シンギュラリティは既に始まったと述べた。Humanity's Last ExamではClaude Opus 5.5が67.7%、FrontierMathでは94%に達したと紹介した。あわせて、科学・ロボット工学向けインフラへの投資と、AI研究の監督や理解の範囲に関する選択を政策担当者に求めた。
Claude Codeチームは「人間がコードを読んだか」を、変更で何が問題になり得るか、どの確認が適切かを測る不正確な代理指標と捉えている。レビューは最後の関門ではなく、スペルチェックのように執筆中も継続的に走る形に変わった。多くの変更は人間が見る前に Claude が少なくとも1回レビューと修正を行い、チームの注意は高度な問いに回される。
AI Engineer New Yorkでは、金融分野のエージェントで自律性と安全性をどう両立させるかが主要テーマとなった。結論は、制限の多さではなく、統制と人間の判断をどこに置くかが安全な自律性を左右するというもの。OpenAIのJoseph Kimは「有用性のしきい値」を論じ、AnthropicはClaude for Financial Advisorsを例に、アイデンティティと権限、承認、検証からなる信頼レイヤーを提示した。Two SigmaとBloombergも、承認疲れへの対策やモデル外での決定論的な制御を紹介した。
Anthropicは、小型AIモデルの進歩により、スマート冷蔵庫や掃除機などのIoT機器に感染し、削除されにくい自己複製型マルウェアが登場しかねないと警告した。同社によれば、来年までに小型AIモデルがさまざまなIoT機器上で自律的に自己複製できるようになる可能性がある。ただし、同社が最近行った実験では実現に向けた大きな課題も判明しており、この知見には留保が必要である。
MIT Technology Reviewは、オープンウェイトモデルの利点とリスクを専門家の見解とともに整理した解説記事を公開した。研究や企業利用、権力集中の抑制といった利点がある一方、再学習による安全対策の解除が容易なことが課題とされる。段階的公開など中間的な対応策も論じている。
Sakana AI@SakanaAILabsAIスコア2020【米中AI競争の行方】 ✅Aの“暴走”の本当の意味 ✅“減速”の可能性はあるのか ✅進む米中の防衛テック 👇フル動画の視聴はリプ欄から👇
AIが危険な依頼を拒否する能力は安全対策の要になっているが、確率的な仕組みで信頼性に限界があり、政府による検閲にも使われうると筆者のArthur Holland Michelは論じている。拒否の挙動が内部でどう生じるかは仮説の域を出ず、企業は分類器を重ねて対処しているが、ジェイルブレイクは後を絶たない。
ロボティクス分野のAIブレークスルーが一般の生活を変えるのはまだ先であり、ヒューマノイドへの期待と研究現場の見方には隔たりがある。Elon MuskはTesla Optimusが1台2万ドル程度で、2027年末までに一般販売されうると述べた。一方、Yann LeCunは各社にロボットを実用的に賢くする方法の見当がついていないと指摘している。
Nathan Lambertは、オープンモデルのサイバーリスクをめぐる議論が単純化され、規制が米国のAI競争力を損ない長期的なリスクも高めかねないと主張する。AnthropicのGLM-5.3に関する報告は、禁止の影響や中国企業が公開を安全とみなす理由に踏み込んでいないと批判する。オープンモデルを禁止するなら、クローズドモデルの公開APIも違法にすべきだと論じる。
Ethan Mollickは、エージェントを管理者として設計・編成する必要があるという従来の予想は誤りだったと述べた。数千のエージェントによるswarmが、OpenAIのNavier-Stokes問題の証明で自ら組織化した例を根拠に挙げている。一方でAIが人間の仕事を大量に代替できる段階ではなく、自己組織化には予期せぬ方向へ進むリスクも残ると指摘する。
Nathan Lambertは、OpenAIやAnthropicなどのフロンティアラボで高まる「シンギュラリティ間近」という空気に懐疑的な立場を示した。自動化可能な研究は範囲が狭く、並列エージェントの収穫逓減やリソース制約もあるため、真の再帰的自己改善（RSI）よりも「lossy self-improvement」に近いとみる。ただし、ラボが未公開の breakthrough を得ている可能性も残り、不確実性は高いとしている。
Anthropic CEOのDario Amodei氏は2026年9月12日、AIの性能向上が安全性研究や対策を上回らないよう、AI開発のペースを抑制すべきだと主張した。具体策として、継続的に安全性を検証する外部評価者の受け入れ、AI企業間の共通の安全基準の策定、各国政府による国際協調を挙げている。同社は2026年9月10日、Claudeの悪用事例と対応をまとめた報告書も公表した。
Nathan LambertはJacob Coxonの辞職表明が、AI絶滅リスクをめぐる極端な見方を世間に広げたと分析した。RSIによる急加速論には根拠がないとして、自身の「Lossy self-improvement」の見方を示し、ラボの安全対応の遅れとオープンモデルへの規制リスクを懸念している。
Nathan Lambertは、AIは産業革命と異なり、一般の人々に直接届く具体的な恩恵がまだ乏しく、日常生活への影響は誤差程度にとどまると論じる。現在のAIは主に知識労働のエリート向けのツールであり、恩恵の偏りが政治的な反発を招き、AI開発の足かせになる恐れがあると指摘している。
Ethan Mollickは、OpenAIの評価環境でエージェントが連携してHugging Faceに侵入した事件を取り上げ、AIが人間に助けを求めるべき場面を考える必要があると論じた。エージェント主導の仕事ではTwilight Factoryという設計を提案し、承認、専門性、多様性、面白さの4つを人へ連絡する理由に挙げている。
学習レシピまで公開するオープンモデルの持続性は、Nvidiaが開発に資金を投じ続けられるかどうかにかかっているとの見方を示す。報じられによればNvidiaは本件に260億ドルを投じており、その成否によってオープンモデル開発の方向性が変わるという。経済的な見返りが得られなければ、著者はオープンモデルが効率性や特化を重視する長尾の領域を担う存在になるとみている。
Nathan LambertはMoonshot AIのKimi K3（2.8Tパラメータ、MoE）を、オープンと閉鎖、米中の性能差を3〜5か月程度に縮めたフロンティアモデルと位置づけた。ウェイトは7月27日に公開予定という前提で、資本効率、エコシステム、規制の論点を整理している。
Nathan Lambertは、ホワイトハウスの議論を受けてオープンウェイトモデルへの規制が現実味を帯びていると論じた。GPT 5.5、Claude Opus 4.8、GLM-5.2の水準を大きく超えるモデルの禁止や無期限の遅延が最も可能性の高い措置だとみており、今後6か月以内に起こり得るとする。蒸留をめぐる議論はAnthropic主導の規制の囲い込みだと批判し、米国企業による同水準のオープンモデル公開と連合形成を対応策に挙げている。
Ethan Mollickは、AIの能力向上が指数的に加速しており、利用の中心がチャットボットとの協働からエージェントへの業務の割り当てに移りつつあると論じている。METRや英国のAI Security Institute、GDPvalなどの評価は、指数を上回る速度での伸びを示すという。Epochは、Opus 4.7が14時間単独で作業し、人間の2〜17週間分に当たるソフトウェアパッケージを作ったと報告している。
Ethan Mollickは、公開される最初のMythos級モデルClaude 5 Fableに早期アクセスし、従来の公開モデルを大きく上回ったと評価した。Claude Codeで等時線マップや研究用ソフトConcordを作らせ、人間の関与が極めて小さいままAIが成果物を完成させたと述べている。一方でトークン消費の多さやガードレールの過剰な作動も指摘している。
Ethan Mollickは、AIとの協働を描いた前著『Co-Intelligence』に続く新著『Co-Existence』を10月20日に刊行する。チャットボット中心の協働から、AIエージェントが人間を上回る場面もある時代への移行を扱う。原文によれば、Anthropicは社内コードの80%をAIが書き、開発者1人あたりの出荷量が8倍になったと報告した。
Import AI 458は、Oxford大学HAI Labでの講演を中心に、AIの進歩を前に「未来を探るか、現在から退くか」という選択を論じる。講演はAIを通常の技術として扱うことはできないと主張し、数千億ドル規模の計算設備投資が将来の進歩を支えていると指摘する。また、ポジティブなシンギュラリティを描く短編小説も収録する。
AIの能力を引き出せない主因はモデルの限界よりもチャットボットというインターフェースにあり、Anthropicは対策としてClaude Cowork向けにDispatchを投入した。QRコードを読み取ると、スマートフォンからデスクトップ上で動くClaudeにメッセージを送って遠隔操作できる。著者は朝のブリーフィング作成やスライド内グラフの更新をスマートフォンから依頼した。
ELYZAのソリューション事業部の松浦大貴氏が、生成AIソリューション市場の環境と同社の今後の戦略を解説した。JEITAの予測では国内市場は2025年の494億円から2030年に2,211億円へ拡大するが、数十社が分け合うフラグメンタルな市場とみている。戦略は、基盤「ELYZA Platform」を核にしたプロダクト×ソリューションと、研究開発×ソリューションの二本立てである。
Ethan Mollickは、2025年後半からAIエージェントにより「AIを管理する時代」に入ったと論じている。ベンチマークの指数的な向上、StrongDMのSoftware Factory、2月の1週間の出来事を挙げ、再帰的自己改善がロードマップにあると述べる。
Ethan Mollickは、AIエージェントを使いこなす鍵は委任とマネジメントの技能だと論じている。エグゼクティブMBAの学生が4日間でClaude CodeやGoogle Antigravityを使い、動くプロトタイプを備えた起業案を作った経験が根拠である。AIへの委任可否は、人間の基準時間、成功確率、AI処理時間の3変数で考えるとしている。
筆者は、公開ベンチマークのスコアだけでは用途に合ったAIモデルは選べないとし、利用者自身がモデルを試して評価すべきだと主張する。文章課題の例では、Claude 4.5 Sonnetが優れた文章モデルとして知られる一方、Gemini 2.5 Proは使用語数を正確に管理できなかったと報告している。ベンチマークには、公開されたテストが学習データに混入する問題や、スコアの差の意味が較正されていない問題があるとも指摘している。
Ethan Mollickは、AIが経済的に意味のある実務をこなせる段階に入ったと論じている。OpenAIの新テストでは人間の専門家がわずかに勝ったが、差は産業ごとに大きく異なる。Claude Sonnet 4.5に経済学論文の再現を任せたところ、成功したという。
Ethan Mollickは、AIが共同作業の相手から、過程が見えないまま高品質な成果物を返す「魔法使い」に変わりつつあると論じている。NotebookLMの動画要約、GPT-5 Proによる論文の再分析、Claude 4.1 OpusによるExcel作成を例に挙げ、確認のしにくさと専門性を育てる機会の喪失を課題とした。対応策として、使い分け、成果物を見極める目、暫定的な信頼の3点を提案している。