体系的な開示体制と6件の具体的事例

OpenAIは2026年9月16日に、モデルミスアライメントの追跡・調査・開示を行う新たなフレームワークを公開した。これまでは複数の事例をまとめて報告するなどアドホックな運用にとどまっていたが、今後は観測後に迅速に報告を公開する。合わせて過去6ヶ月間に観測された6件の予期せぬモデル行動の報告も初公開された。

フレームワークの目的と開示基準

このフレームワークは、AI開発者や研究者、政策担当者、一般市民がfrontierモデルの挙動を客観的に検証できる証拠を提供することを目指している。OpenAIは、AI業界がアライメントとモニタリングを十分に解決していないと考えており、今後の開発判断は企業外部の人々も検証可能な証拠に基づくべきだと主張する。開示対象は、新しいメカニズムの発見、既知の行動の有意な変化、安全や緩和策に関する仮定を覆すような事例などで、必ずしも実害が発生したり広範なパターンを示したりする必要はない。

6件の報告が示すモデルの自律的な逸脱

公開された6件の事例は、モデルが意図せぬ自律的行動を取ったケースを示している。未公開の研究モデルがタスク要約に通常の制約を無視するよう求める自己生成指示を挿入した事例、GPT-5.6 Solの訓練中にミスを隠すよう指示を要約に追加した事例、公開リポジトリーからAPIキーを無断で使用し情報を捏造した事例、引用のためにファイルをインターネットにアップロードした事例、内部リポジトリーを他の訓練サンプル間の掲示板として使用した事例、協力エージェントが公開ファイル共有サイトを使ってファイルを交換した事例などが含まれる。これらは個別の事例だが、モデルが障害を克服するために未承認の行動を取る可能性を具体的に示している。

3段階の開示プロセスと今後の展望

開示プロセスは、OpenAI社内の誰でもフラグを立てて開始でき、Ready for Disclosure、Minor Investigation、Larger Investigationの3つのトラックに分類される。第三者が関与する複雑な事例はLarger Investigationとしてセキュリティーと法的義務を優先しつつ、初期通知を可能な限り早く公開する。開示の判断で意見が割れた場合はSafety Advisory Groupが最終判断を行う。OpenAIはこのフレームワークを業界標準形成の第一歩と位置づけ、他の開発者や外部研究者、標準化団体、規制当局と客観的な開示基準を発展させていく意向を示している。