实战

他用 25 个 AI 村民火遍学术圈,现在要给 80 亿人每人做一个分身

斯坦福学者 Joon Sung Park 的 Generative Agents 曾让整个 AI 圈玩到上头。现在他创办 Simile,想把同样的技术套到全球 80 亿人头上——这次不是 demo,是生意。

字号

他用 25 个 AI 村民火遍学术圈,现在要给 80 亿人每人做一个分身

2023 年 4 月,一篇论文把整个 AI 圈炸了。

25 个 LLM 驱动的虚拟村民,被放进一个叫 Smallville 的像素小镇里。它们自己起床、自己做饭、自己去 Valentine's Day 舞会、自己八卦隔壁邻居是不是在谈恋爱。没人写规则,没人下指令。两天跑下来,这群 agent 自发形成了社交圈、办起了派对,还流传出 "Isabella 喜欢 Klaus" 这种小镇八卦。

那篇论文叫 Generative Agents,第一作者是斯坦福的 PhD 学生 Joon Sung Park。两年过去,Park 已经博士毕业、拿到融资、注册公司,公司名字就叫 Simile。

上个月他做客 Latent Space 播客,抛出了一个让所有人都得重新坐直的判断:

Simulation is the new Scaling Law.

预训练 scale 模型参数,RLHF scale 对齐质量。Simulation 要 scale 的是第三样东西——社会情境的数量和复杂度。

他要把 Smallville 从 25 个人,扩到 80 亿。

从 25 个村民到 80 亿人的野心

Generative Agents 那个 demo 当年的冲击力,到现在我都记得。

它不是 ChatGPT 那种"你问它答"的产品截图,也不是 robotaxi 那种"在真实世界跑起来"的视频。它展示的是一个涌现——你给 25 个 agent 一个共同的物理空间、一段共享的记忆流、一点反思机制,然后退后一步看会发生什么。

会发生的是:情人节舞会真的办起来了,两个 agent 决定一起去看 Valentine's Day 烟花——其中一个犹豫了很久,因为它之前答应另一个 agent 要一起吃晚饭。这种社会性的张力,不是 prompt 里写出来的。

Park 在访谈里说得很直白:"It was a fun exploration, but the technology itself can do much more serious things."

更严肃的事是什么?是他接下来要做的事。

为什么 Simulation 是第三条 Scaling Law

预训练这条线大家都很熟——Chinchilla 定律告诉你,参数和数据怎么配比,loss 才能往下走。RLHF 这条线 Anthropic、OpenAI 都在跑——怎么用人类偏好把模型对齐到能用的程度。

Park 提的第三条路,scale 的对象不是模型,而是世界。

它的底层假设是:你有一个足够好的 LLM(现在我们确实有了),那真正限制 AI 表现的,不是它"会说话"的能力,而是它没有足够的现实世界情境可以练习。

给模型扔 10 万个"如果 A 公司把价格涨 10%,用户在 Twitter 上会怎么反应",它就学会了预测这件事。扔 1000 万个不同人群对不同广告的反馈,它就学会了市场反应。

这跟预训练的根本区别在于——

  • 预训练是把知识塞进模型权重
  • RLHF 是调整模型的输出风格
  • Simulation 是让模型去跑大量"如果",然后学人类在那些"如果"里会怎么做

Park 自己打了个比方:"We're scaling the number and complexity of social situations."

模型是引擎,simulation 是燃料。

数字分身不是聊天机器人,是行为预测器

这是 Simile 这个公司最容易被误解的地方。

很多人听到 "digital twin of every human",第一反应是:又一个 Character.AI?又一个陪你聊天的 AI 伴侣?

不是。

Simile 的 Digital Twin 不是陪你说话的第二个自己。它是一个行为预测器。输入是:

  • 这人的历史购买记录
  • 调研问卷的回答
  • 社交媒体上的发言
  • 人口统计信息

输出是:这个人在面对一个新政策、新产品、新广告时,会怎么投票、会买什么、会不会点开那封邮件。

具体的应用场景,Park 在访谈里点过几个:

  • 市场调研:宝洁要推一款新洗发水,传统做法是找 5000 人做问卷。在 Simile 里,你跑 5000 个 digital twin,让它们"试用"这款虚拟洗发水,然后告诉你购买意愿。速度和成本都是另一个数量级。
  • 政策模拟:一个城市要推限行令,决策者想知道不同收入群体会怎么反应——是改买电动车,还是干脆搬家。传统方式是事后看数据,Simile 是事前预测。
  • 金融建模:散户在市场暴跌时真的会恐慌抛售吗?行为经济学几十年的研究问题,现在可以拿 100 万个 digital twin 来跑场景。

Park 的原话:"It's not a chatbot. It's a behavioral prediction engine."

这个定位非常关键。它决定了 Simile 不是来抢 Character.AI 用户的,是来抢 Gartner、Nielsen、Pew Research 这些市场调研机构的饭碗的。

从论文作者到 CEO,掉过的坑

在 Latent Space 这期节目里,Park 有几个瞬间特别像个真的 CEO,不像那个在 NeurIPS 上讲 demo 的学术新星。

比如他谈到 Simile 现在的部署模式——"We do a hybrid model... We have our own platform... but for our larger enterprise clients, we're happy to deploy on their infrastructure."(参见 Latent Space 访谈全文)

这句话翻译过来就是:客户不放心把行为数据放你云上?行,那我们带着模型进你机房。

这是任何做 to B 的人都会遇到的、合规驱动的架构妥协。Park 在一年前大概率不会在论文里讨论这种问题。

还有一个有意思的细节——他提到 Simile 现在服务的客户包括"a Fortune 50 healthcare company" 和 "several financial institutions"。这些客户的名字他不能说,但行业方向很清晰:监管严格、数据敏感、单次决策成本极高的行业。这跟 Character.AI 的目标用户(年轻人、孤独、需要聊天的人)完全不是一类人。

Park 还承认了一件事:"It's a very different mindset from publishing papers."

写论文是:"我有个 idea,跑个实验,结果有意思,写下来,等引用。"

做公司是:"客户明天要 demo,我能不能让模型在他数据上稳定出结果?Sales 跟我说某行业需要 SOC 2 合规,我能不能在下个季度过审计?"

这种从 research-driven 到 revenue-driven 的切换,他说是"the biggest adjustment"。

严肃警告:模拟这东西,scale 大了会出大事

聊到这,访谈的气氛变了。

主持人问 Park:你现在做的这件事,本质上就是用 AI 模拟人类行为。70 年前社会科学的梦想就是这个。如果真的能跑 80 亿人份的 digital twin,误用空间有多大?

Park 的回答很谨慎,但也很坦诚。他列了几个他认为目前必须守住的边界:

  1. 不能用于个体操纵——不能给某个具体的人"定制"一个 digital twin,然后针对那个人投放心理战广告。这条线他画得很死。
  2. 预测结果是概率,不是命运——模型说"这个人 73% 会买",这是统计估计,不是判决书。下游使用者必须理解这一点。
  3. 数据来源要透明——digital twin 是基于什么数据建的,主体本人要能查询。这是 GDPR 类法规的基本要求。

但他自己也承认,这些是 Simile 现在的护栏,不是行业的护栏。如果全行业都做 digital twin,谁来定标准?谁来审计?

他引述了一个让他夜不能寐的场景:

"If a government wanted to use this to predict civil unrest... that's where it gets really scary."

模拟本身就是研究人类行为最锋利的工具。锋利到双刃。

Park 说,他现在跟投资人聊、跟客户聊、跟监管聊,都在反复讲一句话:"The technology is neutral, but the deployment is not."

技术是中立的,部署不是。

这句话我想了很久。它跟 Anthropic 写的 Constitutional AI、和 OpenAI 写的 Preparedness Framework,本质上是同一类问题——能力越强,部署的责任越大。Simulation 这条 scaling law 上,没有人能假装这个问题不存在。

结尾

Generative Agents 那个 25 个村民的 demo,本质上是个玩具。

但玩具里藏着一个真实的问题:LLM 真的能模拟人类行为吗?如果能,那规模上去之后,它会变成什么?

Park 的回答是:变成一个 80 亿人的预测引擎。变成市场调研、政策制定、金融建模的新基础设施。

他的担忧是:它也可能变成操纵、监控、社会控制的工具。

两条路,现在同时打开着。


来源:本文核心素材来自 Joon Sung Park 在 Latent Space 播客的访谈,标题为 Simulation is the New Scaling Law。Generative Agents 原论文参见 arXiv:2304.03442。

来源: https://www.latent.space/p/simile