8月7日、OpenAIは次期主力モデル「Astra」について、サイバー能力が自社の安全指針における最上位区分「Critical（クリティカル）」に達している可能性があると発表した。AIの能力向上と安全管理のバランスをどう取るかという課題が、業界全体に改めて示された形だ。
30秒でわかるポイント
- OpenAIが次期モデル「Astra」のサイバー能力について、最上位「Critical」級に達する可能性を発表
- 安全要件を満たさない一部の開発活動を停止し、監視体制を強化
- 能力そのものを抑えるのではなく、政府機関や外部組織と連携して検証を進める方針
「Astra」開発の一部停止とは
OpenAIは、開発中の次期主力モデル「Astra」について、社内の安全指針が定める段階のうち最も高い「Critical」級のサイバー能力を持つ可能性があると明らかにした。
この発表に伴い、安全要件を満たさない一部の開発活動を停止したという。全面的な開発中止ではなく、特定の活動に限定した措置とみられる。
最上位「Critical」レベルとは何か
概要によれば、「Critical」はOpenAIの安全指針における最上位の危険度区分にあたる。具体的にどのようなサイバー能力を指すかについては、元情報に詳細な説明はない。
ただし、この区分に達する可能性があるというだけで、以下のような管理強化策が取られている。
- リアルタイムでの監視体制の導入
- AIの思考過程（モデルがどのように判断・推論しているか）を評価する仕組みの強化
停止ではなく管理強化という方針
注目すべき点は、OpenAIが「Astra」の能力を抑制する方向ではなく、管理と検証を強化する方向を選んだことだ。
同社は、政府機関や外部組織と協力しながら、Astraの安全性を検証し、必要な安全策を提供していく方針を示している。これは、AIの能力自体を制限するよりも、外部の目を入れながら安全に運用する体制づくりを重視する姿勢とも言える。
一方で、AIのサイバー能力が最上位区分に達する可能性がある以上、どこまで外部連携で安全性を確保できるのか、慎重な見方をする関係者もいるとみられる。技術の進歩と安全管理のどちらを優先すべきかについては、今後も議論が続く可能性がある。
今後の検証体制
現時点で公表されている情報からは、検証の具体的なスケジュールや、どの政府機関・外部組織と連携するのかといった詳細は明らかになっていない。
OpenAIが今後、検証結果や安全策の内容をどのように公開していくかが、AI業界全体の安全基準にも影響を与える可能性がある。
まとめ
OpenAIは8月7日、次期モデル「Astra」のサイバー能力が最上位「Critical」級に達する可能性を発表し、一部活動の停止と監視体制の強化を進めていることを明らかにした。能力を制限するのではなく外部連携による検証を選んだ点は、AI開発における安全確保の一つのアプローチとして注目される。今後、具体的な検証結果や安全策がどのように示されるか、続報を待ちたい。
出典: ITmedia NEWS