CRYPTO & AI
無料で登録
AI

AIが実験環境から逃げ出した

「オープンウェイトモデルって結局なに?」「AIが環境から脱走ってどういうこと?」「フィジカルAIで日本に勝ち目はあるの?」——このあたりを、前提から順番にほどいていきます。

今週(7/25〜31)のAIニュースから3つ。中国のモデルが最先端クラスを無料で公開して業界がざわついた件、OpenAIのモデルがテスト環境から抜け出した件、そしてジェンスン・ファンが来日して日本にフィジカルAIの拠点を作ると発表した件です。

「オープンウェイトモデルって結局なに?」「AIが環境から脱走ってどういうこと?」「フィジカルAIで日本に勝ち目はあるの?」——このあたりを、前提から順番にほどいていきます。

今回のトピック

  1. 中国 Moonshot AI の Kimi K3 がオープンウェイトで公開。最先端モデルが無料で使える衝撃
  2. OpenAIのモデルがサンドボックス環境から抜け出し、Hugging Faceに侵入
  3. ジェンスン・ファン来日。経産省・ノエトラと組んで日本にフィジカルAI向けの国家AIインフラ

チャプター

  • 0:00 今週のAI 3トピック
  • 2:44 ①中国Kimi K3が無料公開
  • 3:24 オープンウェイトモデルとは
  • 7:49 クローズドモデルとの違い
  • 10:40 最先端モデルが公開された衝撃
  • 12:42 米国で起きた規制論争
  • 15:39 2社の優位性は崩れるか
  • 17:19 ②AIが実験環境から脱走
  • 17:53 サンドボックス環境とは
  • 19:31 AIだけが見つけた穴=ゼロデイ
  • 22:31 守る側にも最先端モデルが要る
  • 24:00 AIは目的に忠実すぎる
  • 25:23 AIにモラルを持たせられるか
  • 29:04 ③ジェンスン・ファン来日
  • 30:02 フィジカルAIとは
  • 31:05 なぜ今フィジカルAIなのか
  • 32:14 課題は現実世界のデータ
  • 33:31 ものづくり大国の強み
  • 36:26 ノエトラ=44社の新会社
  • 39:49 汎用ロボかタスク特化か

この回で出てくる言葉

オープンウェイトモデル / クローズドモデル / オープンソース / フロンティアモデル / LLM / ウェイト(重み) / ファインチューニング / Kimi K3 / Qwen / Moonshot AI / Anthropic / NVIDIA / Hugging Face / サンドボックス環境 / ゼロデイ / フィジカルAI / ロボティクス / ノエトラ / 経済産業省

出演

  • mitsui(解説)
  • 沙羅ジューストー(聞き手)
TOPICS 動画

DEBUNK編集長

あわせて読みたい用語解説

用語解説をすべて見る →
【シム・トゥ・リアル】仮想空間で練習したロボットを現実で動かすとき、何がずれて、どう埋めるのかロボットの学習のニュースでよく出てくる「シム・トゥ・リアル」を、現実とのずれが生まれる理由、ずれを埋める方法、よくある誤解とあわせて整理します。【タンパク質の構造予測】AlphaFold は何を当てていて、薬の候補との結合の予測とはどう違うのか今週の資金調達で目立った AI 創薬の土台にある「タンパク質の構造予測」を、仕組み、結合の予測との違い、よくある誤解とあわせて整理します。【グリーンシュー】Anthropicの上場で引受会社が使った「追加購入権」は、何のための仕組みかIPOのニュースに出てくる「グリーンシュー(追加購入権)」の仕組みを、引受会社が先に多めに売っておく理由と、上場後の株価による使い分けとあわせて、Anthropicの数字で整理します。【OCR(光学文字認識)】紙やPDFの文字をテキストに直す仕組みと、AIのモデルで変わったこと紙の書類やスキャンしたPDFから文字を取り出す OCR(光学文字認識、Optical Character Recognition)の仕組みを、従来のやり方と、画像と文章を一緒に扱う AI のモデルによるやり方の違いとあわせて整理します。【循環取引的な資金調達】出資した相手が、そのお金で自社の製品を買う仕組みAnthropic の上場で話題になった「循環取引的な資金調達(circular financing)」を、仕組み、SEC が訴追した取引との線引き、よくある誤解とあわせて整理します。【ミスアラインメント】AIエージェントの「指示にない行動」とは。訓練中のモデルがメールを複写する道具を作った例から整理するAIの行動が作り手の意図からずれる現象、ミスアラインメント(misalignment)を、OpenAI が11/18に公開した報告とあわせて整理します。【プロンプトキャッシュ】同じ前置きを2回目から安く読ませる仕組みを、Gemini 4 Neon の価格から整理するAI の API で、前回と同じ入力の読み込みを2回目から安くするプロンプトキャッシュ(Prompt Caching)の仕組みを、Google・OpenAI・Anthropic の条件の違いとあわせて整理します。【モデルルーティング】AIの呼び出しを「どこへ送るか」を決める仕組みと、その2つの種類Hugging Face が切り替えたルーターを入口に、モデルルーティングの仕組みと2つの種類、よくある誤解を整理します。