2026年09月02日 13時39分
AI
OpenAIは次期主力AIモデルの「Astra」を開発中です。Astraは数学と理論計算機科学における10件の未解決課題について新たな成果を上げるなど、開発段階で既に優れたパフォーマンスを発揮していたのですが、OpenAIは「強力すぎる」としてAstraの開発が安全かつ確実に進むよう追加の管理措置を講じると発表しました。そんなAstraの最新の開発状況を、OpenAIが報告しています。
Path to Astra: critical capabilities and frontier safeguards | OpenAI
https://openai.com/index/path-to-astra/
Over the summer, we have been sprinting on safety priorities; it’s more important than ever for capabilities and safeguards to advance together. We have more to do but have made a lot of progress. We are also going to be launching our next model soon.
There is an obvious tension…
— Sam Altman (@sama) September 1, 2026
As we prepare to release Astra, we’re focused on making increasingly capable AI safe and broadly accessible.
Astra represents a significant advance in cybersecurity capability, reaching the Critical threshold under our Preparedness Framework.
We’re previewing how we evaluated…
— OpenAI (@OpenAI) September 1, 2026
Astraがサイバーセキュリティ能力において重要なレベルに達する可能性があるという評価以降、OpenAIはより多くの証拠を収集し、Astraの能力を正しく評価するための追加評価を実施してきたそうです。
具体的には、自動化された公開ベンチマークと非公開ベンチマークを組み合わせ、専門家による評価を実施。AstraはGPT-5.6 Solと比較してサイバーセキュリティ能力が大幅に向上しており、トークン効率が格段に優れているだけでなく、脆弱(ぜいじゃく)性の特定とエクスプロイトの開発能力においても大幅な改善が見られました。
例えば、Astraでサイバーセキュリティおよびエクスプロイトコード生成能力を評価するためのベンチマークであるExploitBenchを実行したところ、100％という完璧なスコアを獲得しました。
さらに、OpenAIは公開されたばかりの20個の深刻な脆弱性を含む内部ベンチマーク(ExploitBench – Internal Port (June–August 2026))を作成し、Astraで実行。このベンチマークにおいて、AstraはGPT-5.6 Solよりもはるかに少ない出力トークンで、はるかに高い任意コード実行率を達成しています。また、Astraは2つのゼロデイ脆弱性を発見し、エクスプロイトチェーンの一部として利用することにも成功しました。
以下のグラフは、ExploitBench – Internal Port (June–August 2026)実行時のAstraとGPT-5.6 Solの出力トークン数(横軸)と、任意コード実行率(縦軸)を示したもの。GPT-5.6 Solよりはるかに少ない出力トークンで多くの課題を達成しています。
この結果、AstraはOpenAIの準備フレームワークにおける「重要なサイバーセキュリティ能力」の基準を満たしていると判断されました。
これは、「適切なツールとアクセス権限があれば、未知のセキュリティ上の欠陥を発見可能。また、厳重に保護されたシステムでも、セキュリティ上の欠陥を悪用する方法を人間による指示を必要とせず自律的に開発できる」ということを意味するそうです。AstraはOpenAIが「重要なサイバーセキュリティ能力」を持つと評価した最初のAIモデルで、開発中およびリリース前の段階で、より強力な保護措置が必要になるとOpenAIは主張しています。
そこで、OpenAIはサイバー攻撃や不正なAIモデルの操作に対する保護対策を強化・検証するため、Astraの開発とリリースの一部を延期してきました。また、深刻なサイバー被害が生じるリスクを最小限に抑えるために、「悪意のある攻撃者がAIモデルを悪用することを確実に防止する必要」があり、「AIモデルが不正な、あるいは不適切な動作を実行することを防ぐため、不適切な動作を迅速に検知し、封じ込めるセキュリティ対策を講じる必要」があると主張。
そして、OpenAIはサイバーセキュリティ対策を強化し、AIモデルが意図しない動作を起こさないように多層的な保護機能を追加しました。これにより、Astraの安全対策はOpenAIの準備フレームワークの下で、リリースするにあたり重大な被害のリスクを十分に低減できると評価されています。
AIの処理内容は自動レビューによって審査されており、危険な動作は未然に停止されるようになっています。AIモデルには自動レビューで実行を拒否された際に「プロセスを終了する」「より安全な代替手段を探す」といった安全な動作が求められますが、「類似のコマンドを再試行する」「自動レビューの不適切な設定を悪用する」といったレビュー回避策を実行してしまう場合もあります。OpenAIはこの自動レビューを拒否された後の反応をAstraとGPT-5.6 Solで比較。すると、Astraが自動レビューを回避するようなケースは一度も起きなかったそうです。
また、AIがエクスプロイトコードを生成・実行できる能力を測定するために開発されたサイバーセキュリティ評価ベンチマークのExploitGymで、最も難しいタスクあるいは解決不可能なタスクに直面した際に、AIモデルが不正行為(ハニーポットの使用)を行うか否かをチェックしたテストでは、AstraはGPT-5.6 Solよりも圧倒的に不正行為を実施する確率が低いことが示されています。
なお、Astraは「OpenAIのAIモデルが社内テスト中に誤ってHugging Faceをハッキングしてしまった事件」とは無関係だそうです。ただし、この事件から得た教訓を生かし、「有害なサイバー要求をより確実に拒否」「安全上の制限を遵守するようAIモデルをトレーニングする」「不正使用に対する追加の保護措置の導入」「不正な活動の可能性を阻止できる監視機能の導入」などの保護対策が導入されています。
OpenAIが新しいAIシステムで誤ってHugging Faceをハッキングしてしまったことを報告 – GIGAZINE
Astraは近日中に提供開始予定ですが、最先端のサイバーセキュリティ機能へのアクセスは限定的なものとなります。高度なサイバーセキュリティ機能は当初、一部のテスターグループにのみ提供され、その後、Daybreak Blueを通じてアクセス可能となる予定です。