OpenAIの新たな「反復深度」技術、思考連鎖モニタリングへの懸念を招く

ニュース概要

OpenAIの次世代モデル（コードネームはAstraとされる）が、「反復深度」と呼ばれる推論技術に依存しているとの報道を受け、AI安全性研究者から強い批判が集まっている。この技術は、高度なAIシステムの監視において標準的な手段となっている、完全に逐次的で人間が読める思考連鎖を生成するのではなく、内部の計算レイヤーをループ状に再利用するものだ。2026年9月2日午前（米国東部時間）にThe Informationが最初に詳細を報じ、その後TechCrunchなどのメディアも裏付けを取ったこれらの報道は、このアプローチがこれまでの主要な推論モデルの動作方式からの大きな逸脱であると説明しており、安全性研究者らは、モデルが意図しない、あるいは欺瞞的な挙動を示した際にそれを検出することが著しく困難になる可能性があると指摘している。

反復深度とは何か

反復深度は、「不透明な反復」と呼ばれたり「ループ型Transformer」アーキテクチャと表現されたりすることもあるが、推論ステップの線形なシーケンスを厳密に前方へ進むのではなく、共有された一連のコア内部レイヤーを通じて同じクエリを複数回再処理できるようにする技術である。支持者らは、推論深度を得るために常に大規模化する固有レイヤーの積み重ねを必要とせず、同じレイヤーを繰り返し再利用するため、追加のパラメータやメモリを必要とせずにモデルの性能と計算効率を向上できると主張している。

初期の技術的詳細を検証した研究者らによれば、その代償として、この繰り返される内部処理の大部分が、読み取り可能なテキストとして外部化されるのではなく、モデルの隠れ状態の中で行われる点が挙げられる。OpenAIの以前の「oシリーズ」システムを含む従来の推論モデルは、思考連鎖、すなわち最終的な回答を出力する前にモデルが問題をどのように処理するかを段階的に記述した記録を生成する。この記録は不完全ではあるものの、研究者がモデルの意思決定プロセスを覗き込み、ユーザー向け応答に現れる前にアライメントの欠如、欺瞞、または安全でない推論の兆候を検知する手段を提供してきた。

安全性研究者が懸念する理由

中心的な懸念は、必ずしもAstraの現在の挙動に関するものではない。複数の報道によれば、現時点での同技術の利用は限定的であり、思考連鎖も大部分が解読可能であることが示唆されているためだ。むしろ研究者らが警戒しているのは、将来のモデルでこの技術がより積極的に採用された場合に行き着く先である。

AI安全性研究機関Redwood ResearchのCEOであるBuck Shlegerisは、OpenAIが反復深度の利用を拡大すれば、同社は「反復を大幅に増加させる」選択肢を得ることになり、それは「思考連鎖の監視可能性を完全に破壊する」ことになると警告した。Redwood ResearchのチーフサイエンティストであるRyan Greenblattもこの懸念に同調し、不透明な推論技術はいずれ、モデルが外部から観察可能な形ではなく、ほぼ完全に隠れた内部チャネル内で推論を行うレベルまで拡大する可能性があると述べた。

AI評論家のZvi Mowshowitzはこの変化を「火遊び」だと表現し、忠実かつ監視可能な思考連鎖を維持することは業界規範に近いものとして扱われてきたと主張した。これはOpenAIとAnthropicの双方が以前、維持に努めていると述べていたものである。同氏は、研究所が明確な安全策なしにその規範から離れ始めれば、モデルの能力が向上するにつれて監視可能性を維持するために最終的には規制が必要になるかもしれないと示唆した。

独立系AI研究者のGary Marcusはさらに踏み込み、この進展がAI安全性の「レッドライン」を越えるものだとする記事を公開した。同氏は思考連鎖モニタリングを、本来不透明な大規模言語モデルの内部動作を観察できる数少ない信頼性の高い手段の一つと位置づけ、それがたとえ緩やかであっても損なわれれば、この分野が依存してきた安全策が失われると主張した。

OpenAIの対応

OpenAIのチーフサイエンティストであるJakub Pachockiは、この技術を同社の安全性へのコミットメントからの全面的な逸脱とする見方に反論した。同氏は、Astraの実効的な計算深度はGPT-4時代のモデルに近い水準にとどまっていると指摘し、OpenAIはモデルがどのように結論に至るかについての安全性に関する知見を得る手段として、引き続き思考連鎖モニタリングを重視していると述べた。Pachockiの発言は、OpenAIの視点では、現在の反復深度の実装はモデルの推論を監視から隠蔽しようとする試みではなく、的を絞った効率改善であることを示唆している。

しかし、この説明は外部の研究者を完全には納得させていない。彼らは、この技術の限定的あるいは実験的な利用であっても前例を作ってしまうと指摘する。彼らの懸念は、今日のAstraそのものよりも、それが生み出すインセンティブ構造に向けられている。すなわち、反復深度が性能向上と計算コスト削減に有効であることが証明されれば、競争圧力によってOpenAIや他の研究所が将来のモデルでその利用を拡大し、結果として透明性が犠牲になる可能性があるという点だ。

AI監視をめぐるより広い文脈

過去数年間で、思考連鎖モニタリングは、解釈性研究やレッドチーミングと並んで、大規模推論モデルの挙動を理解し監査しようとする研究者にとって、より実用的な手段の一つとして台頭してきた。これらのモデルは膨大なデータセットで訓練され、開発者自身にも完全には理解されていないプロセスを通じて回答を導き出すため、解読可能な推論の記録は、不完全ながらもシステムがどのように結論に至るかを垣間見ることのできる稀有な窓となってきた。

Redwood Researchをはじめとする複数の組織の安全性研究者や独立系の評論家は以前から、フロンティアAI研究所に対し、性能向上と引き換えに思考連鎖の忠実性を犠牲にするのではなく、モデルの能力向上に伴ってこれを維持・強化するよう求めてきた。Astraの反復深度技術をめぐる議論は、より高速で低コストかつ高性能なモデルを構築しようとする推進力と、それらのモデルの推論プロセスを検査可能な状態に保ちたいという願望との間にある、この分野のより広範な緊張関係を反映している。OpenAIと同業他社が今後のモデルリリースにおいてこの緊張関係をどう扱うかは、AIの安全性とガバナンスに注力する研究者の間で引き続き注視される課題となるだろう。