CRYPTO & AI
無料で登録
AI

【CoTの監視可能性】推論の途中の文章でAIの不正を見つける仕組みと、それが効きにくくなる理由

推論モデルが答えの前に書く途中の文章を、不正の見張りに使う考え方「監視可能性」を、「考えを隠す」の3つの形とあわせて整理します。

【CoTの監視可能性】推論の途中の文章でAIの不正を見つける仕組みと、それが効きにくくなる理由

OpenAI は11/10、アライメント(AIを人の意図に沿わせる研究)のブログで、モデルの開発の各段階が、推論の途中の文章による監視のしやすさにどう影響するのかを調べた結果を公開しました。そこでは、これまで高い水準を保ってきた監視のしやすさが、9月にシステムカード(安全評価をまとめた公式文書)を公開した GPT-6 Astra では下がったと書かれています。結論は「より賢いシステムへ規模を広げるほど、モデルは途中の文章からは監視しにくくなっている」という厳しいものでした。

「考えを隠す」と聞くと、AIが何かをたくらんでいるように感じます。ただ、OpenAI が測っているのは意図ではなく、途中の文章を書かずに解ける力や、書く中身を変えられる力です。この記事では、監視可能性とは何を指すのか、何が起きると下がるのかを、監視する側の視点から整理します。

TOPICS

DEBUNK編集長

次に読む

【シム・トゥ・リアル】仮想空間で練習したロボットを現実で動かすとき、何がずれて、どう埋めるのか

ロボットの学習のニュースでよく出てくる「シム・トゥ・リアル」を、現実とのずれが生まれる理由、ずれを埋める方法、よくある誤解とあわせて整理します。

AI 2026.11.22

【タンパク質の構造予測】AlphaFold は何を当てていて、薬の候補との結合の予測とはどう違うのか

今週の資金調達で目立った AI 創薬の土台にある「タンパク質の構造予測」を、仕組み、結合の予測との違い、よくある誤解とあわせて整理します。

AI 2026.11.22

【グリーンシュー】Anthropicの上場で引受会社が使った「追加購入権」は、何のための仕組みか

IPOのニュースに出てくる「グリーンシュー(追加購入権)」の仕組みを、引受会社が先に多めに売っておく理由と、上場後の株価による使い分けとあわせて、Anthropicの数字で整理します。

AI 2026.11.22

【OCR(光学文字認識)】紙やPDFの文字をテキストに直す仕組みと、AIのモデルで変わったこと

紙の書類やスキャンしたPDFから文字を取り出す OCR(光学文字認識、Optical Character Recognition)の仕組みを、従来のやり方と、画像と文章を一緒に扱う AI のモデルによるやり方の違いとあわせて整理します。

AI 2026.11.21