OpenAI、自社の最高サイバーリスク基準に達したとしてAstraモデルをロックダウン

ニュース概要

OpenAIは今週、社内でAstraと呼ばれる次世代モデルが、同社自身のPreparedness Frameworkで定義されたサイバー能力の「Critical」層に達した可能性があると発表した。これはOpenAIが自社モデルについてこの判断を下した初めてのケースとなる。2026年8月7日金曜日（米国東部時間）に公表されたこの開示により、新たに強化されたセキュリティ要件を満たさない開発活動の一時停止や、さらなるテストを隔離されたサンドボックス環境へ移行することを含む一連の内部保護措置が発動された。

OpenAIのフレームワークにおける「Critical」の意味

OpenAIのPreparedness Frameworkは、生物学的、化学的、核的、サイバーセキュリティ能力などの領域にわたる複数のリスクカテゴリを定義している。内部評価で、モデルが深刻な未知のソフトウェア脆弱性（一般にゼロデイエクスプロイトと呼ばれる）を自律的に発見・悪用したり、意味のある人間のガイダンスなしに十分に防御された標的に対して複雑な多段階サイバー攻撃を独立して実行したりする可能性を排除できない場合、そのモデルはサイバーセキュリティの「Critical」閾値に達したと分類される。この層に達しても、モデルが確実にこれらの能力を持つことを確認するものではなく、評価者がその可能性を排除できなかったことを意味する。これはOpenAI自身のポリシー上、さらなる開発やリリースを続ける前に追加の予防措置を必要とするのに十分である。

講じられた保護措置

OpenAIによると、Astraに取り組むチームは、引き上げられたセキュリティ基準にまだ準拠していない内部活動をすべて一時停止している。今後、モデルの開発とテストは、ネットワークアクセスが制限された隔離環境で行われ、モデルが呼び出せるツールに対するより厳格な制御、モデル重みの追加暗号化と保護、リスクのあるまたは不適切な動作を検出するための拡張モニタリングが実施される。同社はまた、モデルの内部推論トレース（思考連鎖と呼ばれることもある）の自動レビューを追加し、不審な計画活動が実際の行動に移る前にフラグを立てて中断できるようにしたと述べた。

外部レビューと政府との連携

OpenAIは、内部テストのみに依存するのではなく、外部グループと協力してモデルの実際の能力を独立検証する意向であると述べた。これには、関連する政府のサイバーセキュリティ機関や、攻撃的セキュリティ能力の評価を専門とする少数の外部AI安全組織との連携が含まれる。同社はまた、モデルの能力の実地テストが現実世界のリスクを実質的に増大させることなく実施できるよう、推奨されるセキュリティ管理策を第三者評価者と共有する計画であると述べた。

この開示が注目される理由

フロンティアAIラボは数年にわたり能力閾値と安全フレームワークを公表してきたが、名前が明かされた、まもなくリリース予定のモデルについてフレームワークの最上位層を実際に発動することは珍しい。AI安全政策を追跡する研究者らは、この動きが攻撃的サイバーセキュリティのような専門技術領域におけるモデル能力の進歩のペースと、少なくとも1つの大手ラボが固定されたタイムラインで出荷するのではなく、公にリリースを遅らせる姿勢を示していると指摘した。この出来事は、AI研究コミュニティにおいて、能力評価がどのように実施されるか、どの程度の詳細を公に開示すべきか、そして政府や独立研究者がこれらのシステムを構築するラボによる主張をどのように有意義に検証できるかについての議論を再燃させる可能性が高い。

今後の展開

OpenAIは、Astraが追加のレビュープロセスを完了する時期や、より広く利用可能になる時期について確固たる日付を明らかにしていない。同社は、一時停止はモデルに関するすべての作業を停止するのではなく、新しいセキュリティ要件を満たさない活動に特に適用されると述べ、Astraの最終的なリリースは上記の拡張された内部および外部評価の結果に依存すると述べた。