CRYPTO & AI
無料で登録
AI

【推論(インファレンス)】学習済みのAIが答えを出す工程と、その費用と速さを決めるもの

AIが答えを出すたびに走る「推論(inference)」を、学習との違い、入力を読む段階と答えを書く段階の仕組み、推論向けチップの動きとあわせて整理します。

【推論(インファレンス)】学習済みのAIが答えを出す工程と、その費用と速さを決めるもの

NVIDIAは8/24、推論専用のラック「Groq 3 LPX」の量産を始めたと発表しました。2025年12月にGroqから技術のライセンスを受けて作った製品で、Gemma 4 31Bを10万トークンの文脈で動かし、1秒に3,400トークンを書き出したといいます(Artificial Analysisのベンチマーク)。10/12にはMicrosoftが、自社チップMaiaを自社の製品とサービスの「主力の推論システム」にすると書きました。

AIの計算の主役は、モデルを作る「学習」から、作ったモデルを動かす「推論」に移りつつあります。ただ、日本語の「推論」は、推論モデルの「考える」と同じ言葉なので混ざりやすいところです。この記事では、推論とは何か、費用と速さが何で決まるのかを整理します。

TOPICS

DEBUNK編集長

次に読む

【シム・トゥ・リアル】仮想空間で練習したロボットを現実で動かすとき、何がずれて、どう埋めるのか

ロボットの学習のニュースでよく出てくる「シム・トゥ・リアル」を、現実とのずれが生まれる理由、ずれを埋める方法、よくある誤解とあわせて整理します。

AI 2026.11.22

【タンパク質の構造予測】AlphaFold は何を当てていて、薬の候補との結合の予測とはどう違うのか

今週の資金調達で目立った AI 創薬の土台にある「タンパク質の構造予測」を、仕組み、結合の予測との違い、よくある誤解とあわせて整理します。

AI 2026.11.22

【グリーンシュー】Anthropicの上場で引受会社が使った「追加購入権」は、何のための仕組みか

IPOのニュースに出てくる「グリーンシュー(追加購入権)」の仕組みを、引受会社が先に多めに売っておく理由と、上場後の株価による使い分けとあわせて、Anthropicの数字で整理します。

AI 2026.11.22

【OCR(光学文字認識)】紙やPDFの文字をテキストに直す仕組みと、AIのモデルで変わったこと

紙の書類やスキャンしたPDFから文字を取り出す OCR(光学文字認識、Optical Character Recognition)の仕組みを、従来のやり方と、画像と文章を一緒に扱う AI のモデルによるやり方の違いとあわせて整理します。

AI 2026.11.21