實戰

他用 25 個 AI 村民震撼學術圈,現在要替全球 80 億人各做一個分身

史丹佛學者 Joon Sung Park 的 Generative Agents 曾讓整個 AI 圈為之瘋狂。如今他創辦 Simile,企圖把同樣技術套用在全世界 80 億人身上——這次不是展示,而是真正的生意。

字級

2023 年 4 月,一篇論文在 AI 圈投下震撼彈。

25 個由 LLM 驅動的虛擬村民,被放進一個名叫 Smallville 的像素小鎮裡。它們自己起床、自己煮飯、自己去情人節舞會、自己八卦隔壁鄰居是不是在談戀愛。沒有人寫規則,沒有人下指令。跑了兩天,這群 agent 自發組成社交圈、辦起派對,還傳出「Isabella 喜歡 Klaus」這種小鎮緋聞。

那篇論文叫做 Generative Agents,第一作者是史丹佛的博士生 Joon Sung Park。兩年過去,Park 已經博士畢業、拿到融資、註冊公司,公司名字就叫 Simile。

上個月他受邀到 Latent Space 播客,提出了一個讓所有人都得重新坐直的判斷:

Simulation is the new Scaling Law.

預訓練 scale 模型參數,RLHF scale 對齊品質。Simulation 要 scale 的則是第三樣東西——社會情境的數量與複雜度。

他要把 Smallville 從 25 個人,擴張到 80 億。

從 25 個村民到 80 億人的野心

Generative Agents 當年那個 demo 的衝擊力,到現在我都還記得。

它不是 ChatGPT 那種「你問它答」的產品截圖,也不是 robotaxi 那種「在真實世界跑起來」的影片。它展示的是一個湧現——你給 25 個 agent 一個共同的物理空間、一段共享的記憶流、一點反思機制,然後退後一步看會發生什麼。

結果發生的是:情人節舞會真的辦起來了,兩個 agent 決定一起去看 Valentine's Day 煙火——其中一個猶豫了很久,因為它之前答應另一個 agent 要一起吃晚飯。這種社會性的張力,不是 prompt 裡寫出來的。

Park 在訪談中說得很直接:「It was a fun exploration, but the technology itself can do much more serious things.」

更嚴肅的事是什麼?是他接下來要做的事。

為什麼 Simulation 是第三條 Scaling Law

預訓練這條路大家都很熟——Chinchilla 定律告訴你,參數和資料該怎麼配比,loss 才會往下掉。RLHF 這條路 Anthropic、OpenAI 都在跑——怎麼用人類偏好把模型對齊到能用的程度。

Park 提出的第三條路,scale 的對象不是模型,而是世界。

它的底層假設是:你手上有夠好的 LLM(現在確實有了),那真正限制 AI 表現的,不是它「會說話」的能力,而是它沒有足夠的現實世界情境可以練習。

給模型丟 10 萬個「如果 A 公司把價格調漲 10%,使用者在 Twitter 上會怎麼反應」,它就學會預測這件事。丟 1000 萬個不同族群對不同廣告的回饋,它就學會市場反應。

這跟預訓練的根本差別在於——

  • 預訓練是把知識塞進模型權重
  • RLHF 是調整模型的輸出風格
  • Simulation 是讓模型去跑大量「如果」,然後學人類在那些「如果」裡會怎麼做

Park 自己打了個比方:「We're scaling the number and complexity of social situations.」

模型是引擎,simulation 是燃料。

數位分身不是聊天機器人,是行為預測器

這是 Simile 這間公司最容易被誤解的地方。

很多人聽到 digital twin of every human,第一反應是:又是另一個 Character.AI?又是另一個陪你聊天的 AI 伴侶?

不是。

Simile 的 Digital Twin 不是陪你說話的第二個自己。它是一個行為預測器。輸入是:

  • 這人的歷史購買紀錄
  • 問卷調查的回答
  • 社群媒體上的發言
  • 人口統計資訊

輸出是:這個人在面對一項新政策、新產品、新廣告時,會怎麼投票、會買什麼、會不會點開那封信。

具體的應用場景,Park 在訪談裡點過幾個:

  • 市場調查:寶潔要推一款新洗髮精,傳統做法是找 5000 人做問卷。在 Simile 裡,你跑 5000 個 digital twin,讓它們「試用」這款虛擬洗髮精,然後告訴你購買意願。速度和成本完全是另一個層級。
  • 政策模擬:一個城市要推限行令,決策者想知道不同收入族群會怎麼反應——是改買電動車,還是乾脆搬家。傳統方式是事後看數據,Simile 是事前預測。
  • 金融建模:散戶在市場暴跌時真的會恐慌拋售嗎?行為經濟學研究幾十年的問題,現在可以用 100 萬個 digital twin 來跑情境。

Park 的原話:「It's not a chatbot. It's a behavioral prediction engine.」

這個定位非常關鍵。它決定了 Simile 不是來搶 Character.AI 使用者的,而是來搶 Gartner、Nielsen、Pew Research 這些市場調查機構飯碗的。

從論文作者到 CEO,踏過的坑

在 Latent Space 這集節目裡,Park 有幾個瞬間特別像個真正的 CEO,不像那個在 NeurIPS 上講 demo 的學術新星。

例如他談到 Simile 現在的部署模式——「We do a hybrid model... We have our own platform... but for our larger enterprise clients, we're happy to deploy on their infrastructure.」(參見 Latent Space 訪談全文)

這句話翻譯過來就是:客戶不放心把行為資料放你雲上?沒問題,那我們帶著模型進你機房。

這是任何做 to B 的人都會遇到的、由合規驅動的架構妥協。Park 在一年前大概不會在論文裡討論這種問題。

還有一個有趣的細節——他提到 Simile 現在服務的客戶包括「a Fortune 50 healthcare company」和「several financial institutions」。這些客戶的名字他不能說,但產業方向很清楚:監管嚴格、資料敏感、單次決策成本極高的產業。這跟 Character.AI 的目標使用者(年輕人、孤獨、需要聊天的人)完全不是同一群人。

Park 還承認了一件事:「It's a very different mindset from publishing papers.」

寫論文是:「我有個 idea,跑個實驗,結果有意思,寫下來,等引用。」

做公司是:「客戶明天要 demo,我能不能讓模型在他資料上穩定出結果?Sales 跟我說某產業需要 SOC 2 合規,我能不能在下季過審核?」

這種從 research-driven 到 revenue-driven 的切換,他說是「the biggest adjustment」。

嚴肅警告:模擬這東西,scale 上去會出大事

聊到這裡,訪談的氣氛變了。

主持人問 Park:你現在做的這件事,本質上就是用 AI 模擬人類行為。70 年前社會科學的夢想就是這個。如果真的能跑 80 億人份的 digital twin,誤用的空間有多大?

Park 的回答很謹慎,但也很坦誠。他列了幾個他認為目前必須守住的底線:

  1. 不能用於個體操縱——不能給某個特定的人「客製」一個 digital twin,然後針對那個人投放心理戰廣告。這條線他畫得很死。
  2. 預測結果是機率,不是命運——模型說「這個人 73% 會買」,這是統計估計,不是判決書。下游使用者必須理解這點。
  3. 資料來源要透明——digital twin 是基於什麼資料建的,個本人必須能夠查詢。這是 GDPR 類法規的基本要求。

但他自己也承認,這些是 Simile 現在的護欄,不是整個產業的護欄。如果全產業都做 digital twin,誰來訂標準?誰來稽核?

他引述了一個讓他夜不能寐的情境:

「If a government wanted to use this to predict civil unrest... that's where it gets really scary.」

模擬本身就是研究人類行為最鋒利的工具。鋒利到會變成雙刃。

Park 說,他現在跟投資人聊、跟客戶聊、跟監管機關聊,都在反覆講一句話:「The technology is neutral, but the deployment is not.」

技術是中立的,部署不是。

這句話我想了很久。它跟 Anthropic 寫的 Constitutional AI、和 OpenAI 寫的 Preparedness Framework,本質上是同一類問題——能力越強,部署的責任越大。Simulation 這條 scaling law 上,沒有人能假裝這個問題不存在。

結語

Generative Agents 那個 25 個村民的 demo,本質上是個玩具。

但玩具裡藏著一個真實的問題:LLM 真的能模擬人類行為嗎?如果能,那規模拉上去之後,它會變成什麼?

Park 的答案是:變成一個 80 億人的預測引擎。變成市場調查、政策制定、金融建模的新基礎設施。

他的擔憂是:它也可能變成操縱、監控、社會控制的工具。

兩條路,現在同時敞開著。


來源:本文核心素材來自 Joon Sung Park 在 Latent Space 播客的訪談,標題為 Simulation is the New Scaling Law。Generative Agents 原論文請見 arXiv:2304.03442。

來源: https://www.latent.space/p/simile