“それっぽい未来”と“正しい未来”は別物

動画生成のデモを見て人が驚くのは、動きが自然で、時間方向に破綻が少なく、現実にある“っぽさ”が成立しているからだ。逆に言えば、私たちは「見た目がそれっぽい」だけで、かなりの部分を理解と錯覚する。映画のVFXが物理的に厳密でなくても成立するのと同じで、視覚は細部の整合性よりも大局の流れに強く反応する。ここに、生成モデルと世界モデルを混同しやすい落とし穴がある。

世界モデルが狙う“正しい未来”は、単に自然に見える未来ではない。介入したときに筋が通る未来だ。たとえば、机の上のボールが転がる動画を作るとして、見た目だけなら「それっぽい転がり方」はいくらでも作れる。でも、そこに手を入れてボールを止めたらどうなるか、床の材質が変わったらどうなるか、別の角度から見たら同じ出来事として整合するか。こうした条件を変えたときにも一貫して予測できるなら、初めて“世界の仕組み”を掴んでいると言える。

動画生成が露呈しやすい弱点として、物体恒常性がある。画面の外に出た物体が、戻ってきたときに別物になっていたり、遮蔽物の裏で存在が曖昧になったりする。これが起きるのは、モデルが「物体という単位で世界を追跡している」より、「この画面の次に来そうな画面」を統計的に合成している比重が大きいからだ。もちろん近年は改善が進んでいるが、原理的に“見えない間も同じ物体がそこにある”という信念を維持するのは、単なる次フレーム予測以上の構造を要求する。

もう一つは接触と因果だ。物体同士が触れた瞬間に力が伝わり、速度が変わり、回転が起きる。この「触れたから変わる」という因果は、映像としては短い局所現象だが、世界理解の中核に近い。生成モデルは見た目の連続性を優先して、接触の瞬間を“それっぽく丸める”ことがある。だから、接触しているのにすり抜けたり、逆に触れていないのに影響が出たりする。人間の目は意外とこれを見逃すこともあるが、ロボットやシミュレーション用途では致命的になる。

結局のところ、“それっぽい未来”は「観客を納得させる未来」だが、“正しい未来”は「条件を変えても一貫する未来」だ。動画生成が世界モデルに見える瞬間は増えている。しかし、そのまま世界モデルと呼ぶには、介入と一貫性というハードな条件をクリアする必要がある。

世界モデルとしての生成モデル。どこまで成立しているのか

とはいえ、動画生成モデルが世界モデルに近づいているのも事実だ。理由は単純で、動画は時間方向の因果を含むからだ。画像生成が「一枚の世界」を作るのに対して、動画生成は「世界がどう変わるか」を扱う。そこには自然に、状態と遷移の学習が入り込む。ここで重要なのは、生成モデルが世界モデルに寄るかどうかは、モデルの学習目標というより「どう使うか」と「どんな条件を課すか」で決まる点だ。

世界モデルとして語りやすくなるのは、潜在空間での状態遷移を明示的に持つタイプだ。観測である動画フレームをそのまま扱うのではなく、内部で圧縮した状態表現に落とし、次の状態を予測し、必要に応じて映像に戻す。こうすると、長期予測の計算が軽くなるだけでなく、「今はこういう状況だ」という内部のまとまりが作りやすい。世界モデルの言葉で言えば、潜在状態が“世界の要約”として機能する。

さらに一歩進むのが、アクション条件づけだ。つまり「こう動かしたらどうなるか」を学ぶ形で、入力に行動を入れて未来を生成する。ゲームやロボットの文脈ではこれが決定的で、行動がなければ世界モデルは計画に使いにくい。動画生成でも、カメラの移動、視点の指定、物体の操作など、何らかの“介入”を条件として与えられるようになるほど、世界モデルに近い性格を帯びる。生成が“鑑賞用の映像”から、“試行用の未来”へ役割を変えるからだ。

ただし、ここで壁が出る。動画生成の強みは、現実の多様な見た目を再現できることだが、世界モデルとしては、その多様さが逆に足を引っ張ることがある。見た目の自由度が高いほど、未来の不確実性は増え、モデルは「どの未来でもあり得る」方向へ逃げやすい。すると、もっともらしいが決め手に欠ける予測になる。計画に使うなら、未来が多様であること自体は悪くないが、行動によって分岐が“制御可能”になっていないと意味が薄い。どんな行動をしても、映像がなんとなく流れていくだけなら、意思決定にはつながらない。

長期予測の破綻も避けがたい。動画生成は一歩先を当てるのが得意でも、それを積み重ねると誤差が増える。最初は小さなズレでも、数秒後には別世界に漂流する。これは映像としては「なんか変だけど、雰囲気はそれっぽい」で済むかもしれない。しかし世界モデルとして使うなら、ほんの少しのズレが致命傷になる。特に、衝突や落下のように一瞬のイベントが将来を決める場面では、イベントの扱いが曖昧だと計画が成立しない。

もう一点、生成モデルが世界モデルになりきれない典型は、同じ出来事を別視点で見たときの整合性だ。世界モデルは“世界そのもの”を内部に持つので、視点が変わっても同じ世界として整合するのが理想だ。一方、動画生成はしばしば「この視点の映像」を直接生成する。視点を変えた生成を別途行うと、物体の位置関係や細部が微妙に変わってしまうことがある。これは「世界のモデル」ではなく「映像のモデル」になっている兆候で、世界モデルとの距離を示す分かりやすいサインだ。

つまり、動画生成は世界モデルの素材になり得るが、そのままでは“映像らしさ”に引っ張られる。世界モデルとして成立させるには、行動による分岐、視点を超えた一貫性、イベントの因果、長期安定性といった条件を、どこまで設計に織り込めるかが鍵になる。

評価の難しさと、これからの競争軸

生成モデルが世界モデルに近づいているかどうかを議論するとき、最大の問題は評価だ。画像や動画の生成では、自然さや高精細さが目立つので、評価もそこに寄りやすい。しかし世界モデルとしての価値は、画質ではなく「予測が意思決定に使えるか」にある。ここを測らない限り、進歩しているのか、見た目がうまくなっただけなのかが分からない。

評価が難しい理由の一つは、未来が一つに決まらないことだ。現実の映像ですら、少し条件が変われば別の未来になる。正解の未来が複数ある以上、「このフレームが正しい」と一意に言えない。そこで、生成の評価では統計的な指標や人間の主観が使われがちだが、世界モデルとしての能力を測るには不十分になりやすい。必要なのは「介入に対して整合するか」「制約を守るか」「長期的に破綻しないか」といった性質だが、これらは短いクリップを眺めるだけでは判断しにくい。

もう一つは、モデルが“うまいごまかし”を覚えることだ。例えば、物体が見切れそうになったら、都合よくカメラを揺らして誤魔化すような生成は、動画としては自然でも、世界理解としては後退かもしれない。あるいは、人間が気づきにくい矛盾を抱えたまま、質感やライティングで説得してくる。映像の説得力は強力で、評価者の感覚を簡単に乗っ取る。だから、世界モデルとしての評価は、人間の主観に頼りすぎない仕組みが要る。

今後の競争軸として見えてくるのは、いわば“世界に対するテスト”だ。条件を変えるテスト、視点を変えるテスト、行動を入れるテストを通じて、どこまで一貫性を保てるかが問われる。単に「次フレームっぽいもの」が出るだけではなく、「この操作をしたらこうなる」という因果が維持されるか。遮蔽物の裏で物体が存続するか。接触の結果が物理として成立するか。こうしたチェックは、映像の美しさとは別の次元でモデルを評価する。

プロダクト視点で見ると、世界モデル的な動画生成は“用途”で価値が決まる。映画制作や広告クリエイティブでは、多少の物理矛盾より表現力が重要かもしれない。一方、ロボットの訓練や作業計画では、見た目が多少荒くても因果が正しいほうが価値が高い。つまり、同じ動画生成でも、世界モデルに寄せるほど「正しさ」が要求され、表現の自由度とのトレードオフが強くなる。ここを理解せずに「動画生成が進んだから世界モデルも完成に近い」と結論づけるのは危険だ。

結論として、動画生成は世界モデルの入口に立っている。時間を扱う以上、内部に状態遷移が芽生えるからだ。しかし、世界モデルと呼ぶためには、見た目の連続性ではなく、介入と一貫性に耐えることが必要になる。生成モデルが次に競うのは、画質だけではない。“世界として筋が通る未来”をどれだけ作れるか。そこに、生成AIの次の本当の伸びしろがある。

制御と強化学習の間にある“空白”を埋める発想

ロボットを動かす技術は大きく分けると、モデルに基づく制御と、経験に基づく学習に分かれる。前者の代表は古典的な制御工学で、ロボットの力学モデルやセンサーの挙動がある程度わかっていることを前提に、目標との差分を埋めるように入力を調整する。後者の代表は強化学習で、最初から正しいモデルがなくても、試行錯誤の結果としてうまい行動を見つけていく。どちらも強力だが、現場に出るロボットはこの二つのど真ん中でつまずきやすい。

制御工学は、モデルが正しければ非常に安定している。しかし現実の現場は、モデルがいつも正しいとは限らない。床が濡れている、荷物の重心が少しずれている、空調の風で軽い部品が動く、同じ型番の部材でも摩擦が微妙に違う。こうした“地味なズレ”は、数式のモデルに載せづらい一方で、ロボットの成否を左右する。結果として、現場で制御を丁寧にチューニングしても、想定外の状況で破綻してしまう。

強化学習は、そうしたズレも含めて学習で吸収できそうに見える。ところが、現実のロボットに試行錯誤をさせるのは高い。転倒させるわけにはいかないし、失敗で周囲を傷つける可能性もある。データを集めるだけでも時間がかかる。つまり、強化学習が得意な「大量の試行」は、現実世界では制約が強すぎる。シミュレーター上で学習してから実機へ移す手法も広く使われるが、シミュレーターと現実の差、いわゆる“シム・トゥ・リアル”の壁にぶつかる。ここでまた、モデルの不正確さが問題として戻ってくる。

このジレンマを埋める発想が世界モデルだ。世界モデルは、現実のデータから「環境がどう反応するか」を学び、内部で予測できるようにする。重要なのは、世界モデルが“完全な物理法則”を手に入れることより、「意思決定に使えるレベルで未来を見積もる」ことを目指す点だ。たとえば、箱を押したときに数ミリ単位で正確にどこへ行くかよりも、押し方を変えれば倒れる危険が上がるのか、滑りやすいから押すより持つべきなのか、そういった判断ができれば価値がある。

さらに言えば、世界モデルは「行動の結果を先読みしてから動く」という意味で、制御と学習をつなぐ。制御の世界では、未来を少し先まで予測しながら入力を決める枠組みが昔からある。学習の世界では、その予測モデル自体をデータから獲得できる。世界モデルは、その二つを合体させたものとして理解すると腑に落ちやすい。ロボットが失敗しやすいのは、まさにこの“予測して選ぶ”能力が弱いからであり、世界モデルはそこを補うための設計思想だ。

予測してから動く。モデル予測制御と世界モデルの接続

ロボットに「やる前にわかる」を持たせるとき、分かりやすい比喩は脳内シミュレーションだ。人間も、コップを取ろうとするときに、頭の中で一瞬だけ「この角度だとぶつかるな」とか「ここを持てば滑らないな」と想像してから手を伸ばしている。世界モデルは、これを計算として実装するための部品になる。

このとき中心にあるのが、モデル予測制御（MPC）に近い考え方だ。MPCは、現在の状態から未来を短い地平で予測し、その予測の中で目的を最も満たす入力列を選ぶ。選んだ入力をすべて実行するのではなく、最初の一手だけを実行し、次の瞬間にまた観測して計画を更新する。こうすることで、モデルが少し不正確でも、観測で軌道修正しながら安定に動ける。世界モデルが入るのは、ここで使う「未来予測のモデル」を、解析的な物理モデルだけに頼らず、データから学習したものに置き換える部分だ。

ロボットでこの接続が効くのは、短期予測が十分役に立つ場面が多いからだ。たとえば、障害物回避では数秒先まで見通せれば安全性が上がる。把持や押し操作では、触れた直後の反応が読めれば失敗が減る。長期的に完璧な未来が読めなくても、「次の一手」を賢くするだけで成果が出る。世界モデルは、その短期予測をデータ駆動で鍛え、MPC的な枠組みに流し込めるのが強みになる。

ただし、ここで問題が出る。ロボットの世界は、観測できない状態が多い。カメラからは見えても、摩擦係数や内部応力、接触面の微細な凹凸は見えない。さらには、センサー自体が遅れたりノイズが乗ったりする。だから世界モデルでは、観測そのものではなく、潜在状態と呼ばれる内部表現を持つことが多い。潜在状態は、見えない要因も含めて「いま本当はこういう状況だろう」という推定をまとめたものだ。そして潜在状態の遷移を学ぶことで、観測に揺らぎがあっても、内部では滑らかに世界が動いているように扱える。

ここで大事なのは、世界モデルは“何を予測するか”を設計する必要があるという点だ。カメラ画像の画素を丸ごと予測するのは重いし、ロボットが必要とするのは画素そのものではないことが多い。物体の位置、姿勢、接触の有無、力の向きといった、行動選択に直接効く要素がわかれば十分な場合が多い。つまり、世界モデルは「行動に必要な抽象度」で世界を表現できるほど強くなる。

そして、現実に欠かせないのが不確実性の扱いだ。ロボットの操作は、同じ行動でも結果がぶれる。箱を押すとき、わずかな角度の違いで回転したり滑ったりする。もし世界モデルが一つの未来を断定すると、その未来が外れた瞬間に計画が崩れる。だから世界モデルは、未来に幅を持たせる必要がある。複数の可能性を出し、その中で「最悪のケースでも安全」な手を選ぶ、あるいは「不確実性が小さくなる行動」を先に選ぶ、といった戦略が取りやすくなる。ここが、単なる予測器ではなく、意思決定のための世界モデルとして価値が出るところだ。

一方で、長期予測を前提にすると誤差が積み上がる問題が出る。内部で一歩ずつ未来を生成していくと、少しのズレが雪だるま式に増え、数秒後には現実と別の世界に入り込むことがある。これを避けるために、短い地平で回し続けたり、観測で頻繁に補正したり、モデルの“信頼できる範囲”を明示的に扱う設計が重要になる。世界モデルをロボットに載せるというのは、モデルを作ること以上に、モデルと現実の付き合い方を作ることでもある。

現実世界での落とし穴と、安全に寄せる設計

世界モデルは、ロボットの失敗を減らす道具になりうる。しかし、導入すればすぐに賢くなるような魔法ではない。むしろ、世界モデルを入れた途端に失敗の種類が変わることがある。典型は「もっともらしい誤予測」に引っ張られる失敗だ。ロボットが内部シミュレーションで「この動きなら成功する」と判断しても、現実では摩擦が違って滑り、障害物に触れてしまう。ここで怖いのは、内部では整合が取れているので、失敗の理由が見えにくいことだ。外部から見ると、ロボットが自信満々に危険な動きを選んだように見える。

この問題の根っこには、データの偏りがある。世界モデルは観測されたデータから学ぶので、データが薄い領域の予測は弱い。現場のロボットは、業務でよく出る状況のデータは溜まる一方、危険な状況や異常系のデータは意図的に避けるため、そもそも学びにくい。結果として、いざ例外が起きると世界モデルは脆くなる。現実は皮肉で、安全のために避けたデータが、安全を作るために必要だったりする。

だから設計としては、世界モデルに頼り切らない構造が重要になる。まず基本は、保守的な制約を別レイヤーで置くことだ。速度や力の上限、立ち入り禁止領域、衝突が確実な行動の禁止など、世界モデルがどう判断しようと越えてはいけない柵を作る。世界モデルはその柵の中で最適化を行う。この分業があるだけで、誤予測が致命傷になりにくい。

次に大事なのが、異常を検知して“疑う”能力だ。世界モデルが予測した結果と、実際に観測された結果の差が大きくなったら、「いまモデルが当たっていない」サインになる。ここで計画を短くする、保守的な動きに切り替える、あるいは一旦停止して再推定する。こうしたモード切り替えがあると、世界モデルの弱点を運用でカバーできる。ここは、現場での安全文化に近い。航空機や工場設備が、異常時にフェイルセーフへ移るのと同じ発想で、世界モデルにも“降り方”を用意する。

また、現実的にはデータ収集の設計が世界モデルの成否を決める。ロボットが日常業務で集めるログだけでは足りないことが多い。わざと微妙に違う条件で動かしてみる、操作対象を変えてみる、センサーを変えてみる。そうして「モデルが揺さぶられる」データを確保すると、世界モデルは頑健になる。もちろん、危険な揺さぶりはできないから、安全な範囲での探索や、シミュレーターでの補助が必要になる。世界モデルは“安全に賢くなるための装置”だが、賢くするためにはやはり学習が必要で、その学習を安全に行うための設計が要る。

最後に、世界モデルは“責任の分界”も変える。従来のロボットは、制御則やルールベースのロジックで動き、動作の理由が比較的追いやすかった。世界モデルを入れると、行動が内部シミュレーションの結果で決まるため、説明や監査が難しくなる。現場で運用するなら、世界モデルがどの情報を根拠にどんな予測をしているか、少なくともデバッグ可能な形で可視化する必要がある。現場の人が「今日は床が滑るから危ない」と感じたとき、モデルがそれを反映できるのか、反映できないなら手動で保守モードに入れられるのか。こうした人間とのインターフェースを設計しないと、技術としては進んでも現場で嫌われる。

ロボットが失敗するのは、世界が複雑で、しかもその複雑さが“例外”として現れるからだ。世界モデルは、その複雑さを内部に取り込み、行動の前に結果を想像させることで、失敗の確率を下げる。しかし同時に、世界モデルが間違えば、間違った未来を信じて突っ込む危険も生む。だから鍵は、世界モデルを賢い脳として神格化するのではなく、不確実な仮説を作る道具として位置づけ、その仮説を現実の観測と制約で矯正し続ける設計にある。ロボットに「やる前にわかる」を与えるとは、未来を当てることではなく、当てられない未来と安全に付き合う仕組みを作ることなのだ。

世界モデルの定義と、よくある誤解

世界モデル（World Model）という言葉は、ざっくり言えば「世界がどう動くか」を内部に持つための表現だ。ここで言う世界は、必ずしも地球全体や社会全体のことではない。ロボットが机の上で物を押したときに何が起きるか、ゲームの中でキャラクターが曲がったときに視界がどう変わるか、あるいは会話で相手の感情がどう推移しそうか、そういう“自分が関わる範囲の環境”を含む。重要なのは、その内部表現が「次に何が起きるか」を予測するために使える、という点だ。

ここで最初の誤解が生まれやすい。世界モデルは単なる「知識の集まり」ではない。百科事典的に事実を詰め込んだものを世界モデルと呼ぶなら、検索エンジンのインデックスも世界モデルになってしまう。しかし、世界モデルが狙う中心は「状態の把握」と「状態の遷移」、つまり今がどういう状況で、それが次にどう変わるかという動力学の側にある。もちろん知識は使うのだが、知識が“予測に接続されている”かどうかが境目になる。

次の誤解は、世界モデルを「完璧な物理エンジン」だと捉えてしまうことだ。確かに理想形としては、世界を正確にシミュレーションできれば強い。だが現実の世界は、未知の要因とノイズだらけで、正確さだけを追うとすぐに破綻する。世界モデルは、正確さよりもまず「意思決定に使える程度に、世界を圧縮して表す」ことが多い。たとえば車の運転で、人はタイヤのゴム分子の運動を計算していない。見える範囲の車間距離、相手の速度、信号の状態を頭の中でまとめて「今は減速だな」と判断する。世界モデルとは、そういう“必要なところだけ掴む”能力の機械版でもある。

さらにややこしいのが、近年の大規模言語モデル（LLM）との関係だ。LLMは大量の文章から、次の単語を予測する訓練を受けている。その結果、世界の知識や因果関係っぽいものが内部に表現され、「それは世界モデルでは？」という議論が起きる。ここでのポイントは、言語モデルが持つ内部表現が世界モデル的に働く場面は確かにある一方で、世界モデルという概念が本来重視するのは「世界との相互作用」と「予測が行動にフィードバックする」構造だということだ。文章上の整合性が取れていても、物理的な因果や、介入したときの結果が整合しないことは起こりうる。言い換えると、言語としての“もっともらしさ”と、世界としての“成り立ち”は一致するとは限らない。

それでも世界モデルが重要なのは、AIが次に進む方向が「生成」から「計画」へ寄り始めているからだ。何かを出力できるだけではなく、その出力が現実にどう影響するかを見積もり、目標に沿って手順を組み立てる。そこに必要なのが、世界がどう動くかを内部に持つ仕組みであり、それを世界モデルと呼ぶ。

どうやって世界モデルは学習されるのか

世界モデルの学習は、一言でまとめるなら「観測をうまくまとめて、次を当てる」だ。たとえば、カメラ画像の連続、センサーの時系列、ログデータ、会話の履歴など、世界から得られる情報はそのままだと複雑すぎる。そこでまず、観測を圧縮して“状態”として表す。次に、その状態が時間とともにどう変わるか、あるいは自分が何か行動したときにどう変わるかを学ぶ。ここまで聞くと古典的な予測モデルと同じに見えるが、世界モデルの文脈では「状態が直接見えない」ことを前提にすることが多い。

現実は、必要な情報がいつも観測できるわけではない。たとえば、机の上に置いたコップは見えているが、コップの底の滑りやすさは見えない。相手が怒っているかどうかも、心の中は見えない。そこで世界モデルは、見えない要因を含めた“潜在状態”という考え方を使う。観測から潜在状態を推定し、その潜在状態から次の潜在状態を予測し、必要ならそこから観測を再構成する。この構造があると、見えない部分をうまく吸収しながら、長期的な予測や計画につなげやすくなる。

学習の基本の形は「自己教師あり」になりやすい。つまり、教師が「正解ラベル」を用意してくれなくても、世界は勝手に次の瞬間を見せてくれるので、それを正解として学べる。動画なら次フレーム、時系列なら次の値、会話なら次の発話の流れがラベルになる。こういう学び方は、データの量を確保しやすい。世界モデルが伸びやすい背景には、センサーやログが大量に取れる環境が増えたこともある。

ここで一段深い話として、「予測すべきものは何か」が難所になる。次フレームの画素を全部当てにいくと、世界は細部まで複雑すぎて学習が重くなる。逆に抽象化しすぎると、大事な因果が抜ける。だから世界モデルは、どのレベルで世界を表現するか、つまり表現の粒度を設計するのが勝負になる。人間も同じで、たとえばスポーツ観戦でボールの回転数の微細変化を逐一追わない代わりに、選手の位置関係やリズムで展開を予測している。AIでも、意味のある単位で世界を切り出し、予測を成立させる工夫が要る。

もう一つのキモは、不確実性をきちんと扱うことだ。世界は一つの未来だけを持たない。雨が降りそうでも降らないかもしれないし、相手が笑うか怒るかは状況次第だ。世界モデルが単一の未来を断定すると、外れたときのダメージが大きい。だから、多様な可能性を持った未来を表現できるモデルが好まれる。これが「生成モデル」と接続するポイントで、世界モデルはしばしば「未来を生成する」形で設計される。単に平均を取る予測ではなく、複数の筋の通ったシナリオを出し、その中から目的に合う行動を選ぶ、という流れが作りやすい。

こうして学習された世界モデルは、使い方によって性格が変わる。短期の予測が得意なもの、長期の計画に耐えるもの、行動を入れると反応が返るもの、観測の欠落に強いもの。世界モデルは単体の技術名というより、「予測できる内部表現をどう作り、どう使うか」という設計思想の束として理解したほうが、実態に近い。

世界モデルがもたらす価値と、限界の正体

世界モデルの価値は、端的に言えば「やる前に試せる」ことにある。現実世界での試行錯誤はコストが高い。ロボットが転倒すれば壊れるかもしれないし、製造ラインの実験は止められないし、ビジネス施策の失敗は損失になる。世界モデルがあれば、内部でシミュレーションして危ない手を避けたり、成功確率の高い手を優先したりできる。強化学習の文脈では、環境とのやりとりを節約できることが強みとして語られるが、現実の現場では「安全」と「費用」の問題として、より切実に効いてくる。

また、世界モデルは「汎化」に関係する。汎化とは、見たことのない状況でもうまくやる能力だ。単なるパターン暗記は、環境が少し変わると崩れる。だが、因果や構造を内部に持てれば、表面が違っても本質が同じなら対応できる可能性が上がる。たとえば、机が木製から金属になっても「滑りやすさが変わる」程度の差として扱えれば、押す力や速度を調整して目的を達成できる。世界モデルの目標は、世界の細部を丸暗記することではなく、変化の仕方を掴むことにある。

ただし、ここからが大事で、世界モデルの限界もこの価値と同じ場所から生まれる。内部で試すということは、内部の世界が間違っていたら、間違ったシミュレーションで意思決定してしまうということだ。しかも怖いのは、予測が少しだけ外れるときほど、長期的には大外れになることがある点だ。未来を一歩ずつ予測していくと、誤差が積み上がり、途中から現実と別世界に迷い込む。これは「ロールアウトの破綻」と呼ばれることがあるが、要するに長期のシミュレーションほど信用が難しい。

さらに、データが存在しない領域、いわゆる分布外に出た瞬間に壊れやすい。世界モデルは観測から学ぶ以上、観測されないものを正しくは学べない。見たことのない道具、未知のルール、極端な状況に弱いのは自然だ。ここで、言語モデルのハルシネーションと似た構図が出る。もっともらしい予測を生成できるが、それが現実の拘束条件を満たすとは限らない。見た目や文章の整合性が高いほど、間違いに気づきにくくなるのが厄介だ。

だから実務では、世界モデルを「万能な頭脳」として置くより、「不確実性を含む仮説生成装置」として扱うのが安全だ。世界モデルが出した未来予測を、別のチェック機構で検証する。保守的な制約をかけて危険な行動を禁止する。観測が入ったらすぐに状態推定を更新し、内部世界を引き戻す。こういう設計がセットになって初めて、世界モデルは強みとして働く。

もう一つ、説明可能性の問題もある。世界モデルが潜在状態に世界を圧縮すると、その潜在状態は人間の言葉で説明しにくいことが多い。「なぜそう判断したのか」を問われたとき、モデル内部の状態遷移はブラックボックスになりがちだ。これは社会実装で必ず突っ込まれるポイントで、医療、金融、製造、安全領域では特に無視できない。世界モデルを導入するなら、説明のための可視化や監査、あるいは説明可能性を一定担保するモデル設計が必要になる。

それでも世界モデルが再注目されるのは、AIが“文章を出す機械”から“世界で動く意思決定者”へ近づくほど、避けて通れない概念だからだ。未来を想像できなければ、計画も、探索も、安全も作れない。逆に言えば、世界モデルを語ることは、AIの能力を語ることと同時に、AIの危うさを語ることでもある。予測は力だが、予測を信じすぎるのも危険だ。この緊張感ごと抱えながら、「どの世界を、どの粒度で、どの目的のためにモデル化するのか」を設計できるかどうかが、生成AI時代の次の分水嶺になる。