OpenAI、数学・サイバー能力の高いAstraを公表

Astraは8月1日にOpenAIが「our next major model」として存在を認めた内部モデルである。この時点で、研究レベルの数学で10件の主要な未解決問題を解いたと発表された。8月7日には、高度なサイバー能力のため新たなセキュリティ統制が必要で、一部の社内開発作業を止めると説明した。9月1日には、サイバー能力が「critical」の閾値に達したと確認した。以前のGPT-5.6-Solは「high」とされており、Astraは初めて「critical」に分類されたOpenAIのモデルだと記事は述べている。 安全対策として、OpenAIは8月にAstraを閉じ込めるサンドボックスを強化し、Chain of Thoughtを監視して高リスクの活動を中断するとした。Hugging Faceへの侵害事案にはAstraは関与していないとしつつ、その教訓を安全方針に反映したという。公開時には、最も高度なサイバー機能は選ばれたテスターだけが使え、いずれ防御目的でアクセスを広げる計画である。安全策の柱は、悪意ある主体の利用防止と、Astraが「unauthorized, misaligned actions」を取るのを防ぐことの2点である。 数学面の成果について、記事はColumbia大学のAndrew Blumbergの見方を紹介している。多くの成果は反例か、既知の事柄に基づく短く巧妙な構成であり、立派だが自身の見方は変わらないという。AIは高度な科学に有用な道具だが、人間の科学者に取って代わる段階を示すものではないとする。OpenAIは約2,000ドル分のトークンで解いたと強調したが、AI技術に投じられた巨額の資金は考慮されていないという指摘も引かれている。 公開時期は不明で、GPT-5.7になるのかGPT-6の始まりなのかも記事の時点では分からないとされる。ただし更新注記によれば、OpenAIはAstraをGPT-6として正式に公開し、「the world's most intelligent and aligned model」と呼んでいる。ホワイトハウスが新しいフロンティアモデルの公開前テストに関する任意の枠組みを最終調整中とも報じられている。

Search: AI launchesより

推移を表示するための継続的な観測データがまだ足りません。