実践

25体のAI村民で学术界を震撼させた研究者、今度は80億人の分身を作る

スタンフォードのJoon Sung Park氏が率いるSimileは、LLM駆動の「デジタルツイン」で人間の行動を予測する次世代インフラを構築しようとしている。デモではなく、本格的なビジネスとしての挑戦だ。

文字サイズ

2023年4月、1本の論文がAI業界全体を揺さぶった。

25体のLLM駆動の仮想村民が、Smallvilleというピクセル調の町に置かれた。彼らは自分で起き、自分で食事を作り、自分でバレンタインデーのパーティーに行き、隣の住人が恋をしているかどうか噂話をする。ルールを書いた者は誰もおらず、誰も指示を出していない。2日間走らせた結果、このエージェントたちは自発的に社交ネットワークを形成し、パーティーを開き、「IsabellaがKlausに好意を持っているらしい」というゴシップまで生み出した。

その論文のタイトルはGenerative Agentsで、筆頭著者はスタンフォード博士課程のJoon Sung Park氏。あれから2年が経ち、Park氏は博士号を取得し、資金調達を完了し、Simileという会社を立ち上げた。

先月、Park氏はLatent Spaceポッドキャストに出演し、誰もが姿勢を正さざるを得ない持論を投げかけた。

Simulation is the new Scaling Law.

事前学習でモデルのパラメータをスケールし、RLHFでアライメントの品質をスケールする。ではSimulationがスケールするのは3番目のもの——社会的状況の数と複雑さだ。

彼の目標は、Smallvilleの25人から、80億人へと拡張することだ。

25人の村民から80億人への野望

Generative Agentsのデモが放った衝撃を、今でも覚えている。

あれはChatGPTのような「質問して回答を得る」スクリーンショットでもなく、robotaxiのような「現実世界で走る」動画でもない。あのデモが示したのは創発——25体のエージェントに共通の物理空間と共有メモリ、少しだけ内省の仕組みを与え、あとは一歩退いて何が起きるかを見る、というものだ。

起きたのはこういうことだ。バレンタインデーのパーティーは本当に開かれ、2体のエージェントが一緒に花火を見に行くことを決める——そのうち1体はかなり迷っていた。別のエージェントと夕食を一緒にする約束をしていたからだ。このような社会的な緊張は、プロンプトに書かれたものではない。

Park氏はポッドキャストでこう語っている。「It was a fun exploration, but the technology itself can do much more serious things.」

より真剣なこととは何か。それが次に彼がやろうとしていることだ。

なぜSimulationが3本目のScaling Lawなのか

事前学習のラインは誰もがよく知っている——Chinchillaのスケーリング則が、パラメータとデータの最適な配分を教えてくれる。RLHFのラインはAnthropicやOpenAIが走らせており、人間の好みをどう使ってモデルを使い物になるレベルにアラインメントするかという話だ。

Park氏が提案する3番目の道は、スケール対象がモデルではなく世界である。

この考えの前提はこうだ。十分に良いLLMがすでに手元にある(実際、今はある)。だとすれば、AIの限界を本当に決めているのは「話せる」能力ではなく、練習に使える現実世界の状況の不足である。

「A社が価格を10%値上げしたら、ユーザーはTwitterでどう反応するか」を10万件モデルに食わせれば、その反応を予測できるようになる。異なる広告への異なる人群の反応を1000万件食わせれば、市場反応を予測できるようになる。

このアプローチと事前学習の根本的な違いはこうだ。

  • 事前学習は知識をモデルの重みに詰め込む作業
  • RLHFはモデルの出力スタイルを調整する作業
  • Simulationは、大量の「もし」をモデルに走らせ、人間がそこでどう振る舞うかを学ばせる作業

Park氏自身の表現を借りれば、「We're scaling the number and complexity of social situations.」

モデルがエンジンで、simulationが燃料だ。

デジタルツインはチャットボットではなく、行動予測エンジンだ

ここはSimileという会社について最も誤解されやすい点だ。

「digital twin of every human(全員分のデジタルツイン)」と聞くと、多くの人はこう考える。Character.AIのまた新しい版?また別の会話相手AI?

違う。

Simileのデジタルツインは、会話するためのもう一人の自分ではない。それは行動予測器だ。入力は次のようなものだ。

  • 対象者の過去の購買履歴
  • アンケート回答
  • ソーシャルメディアでの発言
  • 人口統計情報

出力はこうだ。新しい政策、新しい製品、新しい広告に直面したこの人が、どう投票し、何を買い、あのメールを開封するかどうか。

具体的な応用シナリオについて、Park氏はポッドキャストでいくつか触れている。

  • 市場調査:P&Gが新シャンプーを発売する場合、従来は5000人を対象にアンケートを取る。Simileなら5000体のデジタルツインを走らせて、彼らに「バーチャルでこのシャンプーを使ってもらう」シミュレーションを行い、購入意向を返す。速度とコストはケタ違いだ。
  • 政策シミュレーション:ある都市が車両走行規制を導入しようとしている。意思決定者は異なる所得階層がどう出るかを知りたい——EVに買い替えるのか、それともいっそ転居するのか。従来は事後的にデータを見るしかなかったが、Simileなら事前予測ができる。
  • 金融モデリング:市場暴落時、個人投資家は本当にパニック売りをするのか。行動経済学が何十年も取り組んできた問いを、100万体のデジタルツインでシナリオ検証できる。

Park氏の言葉をそのまま借りれば、「It's not a chatbot. It's a behavioral prediction engine.」

このポジショニングが決定的だ。SimileはCharacter.AIのユーザーを奪おうとしているのではなく、Gartner、Nielsen、Pew Researchのような市場調査機関の仕事を奪おうとしている。

論文著者からCEOへ——彼が踏んだ落とし穴

Latent Spaceのこのエピソードで、Park氏にはNeurIPSでデモを語る新人研究者ではなく、本物のCEOらしい瞬間がいくつかあった。

例えば、Simileの現在のデプロイモデルについて語る場面——「We do a hybrid model... We have our own platform... but for our larger enterprise clients, we're happy to deploy on their infrastructure.」(Latent Spaceインタビュー全文参照)

これを翻訳するとこうなる。顧客が行動データをうちのクラウドに置きたくない? では、こちらからモデルをお持ちして、御社のサーバ室で動かしましょう。

これはBtoBビジネスをやる誰もが直面する、コンプライアンス主導のアーキテクチャ妥協だ。1年前のPark氏なら、論文でこの問題を取り上げることはまずなかっただろう。

もう一つ興味深い点がある。Park氏はSimileの現在の顧客に「a Fortune 50 healthcare company(Fortune 50のヘルスケア企業)」と「several financial institutions(複数の金融機関)」が含まれると語っている。社名は明かせないが、業界の傾向は明確だ。規制が厳しく、データ感度が高く、1回の意思決定コストが極めて高い業界。Character.AIのターゲットユーザー(若年層、孤独、会話相手を求める層)とはまったく異なる。

Park氏はもう一つ認めている。「It's a very different mindset from publishing papers.」

論文執筆はこうだ。「アイデアがある。実験を走らせる。結果がおもしろい。書き留める。引用を待つ。」

会社経営はこうだ。「明日デモがある。顧客のデータで安定的に結果を出せるか。営業が特定業界はSOC 2コンプライアンスが必要と言っている。次の四半期で監査を通せるか。」

このresearch-drivenからrevenue-drivenへの切り替えは、彼曰く「the biggest adjustment」だったという。

重大な警告:シミュレーションはスケールが大きくなると厄介なことになる

ここまでのあたりで、ポッドキャストの空気が変わった。

司会者がPark氏に問う。あなたがいまやっていることは、本質的にAIを使って人間の行動をシミュレーションすることだ。70年前の社会科学の夢そのものだ。もし本当に80億人分のデジタルツインを走らせられるなら、悪用の余地はどのくらいあるのか?

Park氏の回答は慎重だが、率直でもあった。彼は現在必ず守らなければならない境界線として、以下の点を挙げた。

  1. 個人操作には使えない——特定の一人に向けて「カスタムメイド」されたデジタルツインを作成し、その個人を標的に心理戦の広告を投げるようなことはしない。この線引きは非常に明確だ。
  2. 予測結果は確率であり、運命ではない——モデルが「この人は73%の確率で買う」と言ったとすれば、それは統計的推定であって判決ではない。下流の利用者はこの点を理解しなければならない。
  3. データ出所を透明にする——デジタルツインがどのデータに基づいて構築されたか、本人が照会できるようにする。これはGDPR系の規制の基本要件だ。

しかしPark氏自身も認めている。これらはSimileの今のガードレールであって、業界全体のガードレールではない。もし業界全体がデジタルツインを作り始めたら、標準を定めるのは誰か。監査するのは誰か。

彼が引き合いに出したのは、彼自身を夜も眠れなくさせるというシナリオだ。

「If a government wanted to use this to predict civil unrest... that's where it gets really scary.」

シミュレーションは、人間行動を研究するうえで最も鋭い道具だ。両刃の剣のように鋭い。

Park氏はいま、投資家と、顧客と、規制当局と話す際、繰り返し同じ言葉を投げかけているという。「The technology is neutral, but the deployment is not.」

技術は中立だ。だがデプロイは違う。

この言葉について、私はしばらく考えた。AnthropicのConstitutional AI、OpenAIのPreparedness Frameworkと、本質的に同じ問題だ——能力が高まればするほど、デプロイの責任も重くなる。SimulationというScaling Lawの上で、この問題を無視するふりをする人は誰もいない。

おわりに

Generative Agentsの25人の村民デモは、本質的にはおもちゃだった。

しかしそのおもちゃの中に、本物の問いが隠れていた。LLMは本当に人間の行動をシミュレートできるのか。もしできるなら、それをスケールしたら何になるのか。

Park氏の答えはこうだ。80億人分の予測エンジンになる。市場調査、政策立案、金融モデリングのための新たなインフラになる。

彼の懸念はこうだ。あるいはそれは、操作、監視、社会統制の道具にもなりうる。

2つの道が、今まさに同時に開かれている。


出典:本記事の主要素材は、Joon Sung Park氏のLatent Spaceポッドキャスト出演回(タイトル:Simulation is the New Scaling Law)に基づく。Generative Agentsの元論文はarXiv:2304.03442を参照。

出典: https://www.latent.space/p/simile