【Preparedness Framework】AI の危険度を「High」「Critical」で測る仕組みを、GPT-6.2 の判定から整理する
OpenAI が新しいモデルを公開してよいかを決めるときの基準、準備態勢フレームワーク(Preparedness Framework)の仕組みを、GPT-6.2 の判定とあわせて整理します。
目次
OpenAI は11/17、GPT-6.2 の Astra と Sol を公開しました。同じ日に出たシステムカード(System Card、モデルの性能と安全性の評価をまとめた公開文書)には、2つのモデルがサイバーセキュリティで「Critical」、生物・化学で「High」に当たると書かれています。Astra は AI の自己改善でも High と判定され、OpenAI はこれを「外部に公開したモデルで初めて」としています。
ただ、High や Critical が何の段階で、判定が公開にどう効くのかは、発表からは読み取りにくいです。この記事では、評価の結果を公開の判断につなぐ基準として Preparedness Framework を整理します。評価の種類や点数の読み方は、10/18の記事「評価(evals)」で扱いました。
