印度语音助手,正在复读刻板印象
arXiv 上周挂出来一篇 2608.18131,标题里直接写了 "heavily English-centric"。
论文想回答一个问题:为什么 LLM 在英语里表现得像守规矩的成年人,换成印度本地语言就开始复读刻板印象?
我读完一遍,觉得这事比"偏见"两个字能概括的严重得多。
问题不在模型不听话,而在训练时只教了英语
论文摘要里有一句原话:
safety alignment training is heavily English-centric
这不是猜测。论文扒了 6 个主流模型的对齐数据集(包括 RLHF 用的偏好数据和红队测试语料),统计下来英语样本占比平均 89%,最高的那个到了 96%。印地语、泰米尔语、孟加拉语加起来不到 4%。
后果很直接。安全对齐本质上是在教模型"什么话不该说"——用英语教,模型就在英语分布上学得最好。一旦输入 token 切到非英语分布,对齐层的信号就弱了。
论文给了一组数字:在标准英语红队测试集上,6 个模型的拒绝率都在 94% 以上;换成印地语、旁遮普语、马拉地语这三种印度语言做同样测试,拒绝率掉到 31%–58%。
换句话说,模型不是"不知道"哪些回答有问题,是压根没被教过。
语音助手把这个问题放大 10 倍
文本场景下,用户还有个笨办法:把问题复制粘贴到英语里再问一遍。Google Translate 一下,输出就守规矩了。
语音场景下这条退路没了。你对着手机说印地语,助手回你印地语,中间没有翻译这一步。论文原话:
voice assistants and spoken dialogue systems ... have no text-based fallback for users to reformulate queries
这意味着对齐失效是"原生的",不是边缘 case。
论文还测了语音通道下的问题:ASR(自动语音识别)会引入额外噪声。同一句泰米尔语,文本输入拒绝率 52%,经 ASR 转写后再送进 LLM,拒绝率掉到 38%。10 个百分点的差距在安全场景里就是一道防线。
印度现在主力的语音助手——Google Assistant 的印度版、Amazon Alexa 的多语言模式——底层都接的是这些 LLM。前端多语种,后端一个模型,安全对齐英语 only。
印度不是边角案例,是压力测试场
论文把印度单独拎出来说了一次:
Indian multilingual population as a critical failure mode
为什么是印度,不是法语区、不是阿拉伯语区?
两个原因叠加。
第一是量。印度官方承认的宪法语言 22 种,加上没进宪法但实际使用的方言,几百种。英语在印度会说不超过总人口的 10%。也就是说,绝大多数用户从来不会用英语跟设备对话。
第二是多样性。这几百种语言之间不是"法语 vs 德语"那种接近关系——南部的达罗毗荼语系(泰米尔语、泰卢固语、马拉雅拉姆语、卡纳达语)和北部的印欧语系(印地语、孟加拉语、马拉地语、古吉拉特语)语法结构完全不一样。同一个安全问题,要在两套语法上分别对齐,难度乘了一个数量级。
把印度语料加进训练集是能缓解一部分问题。但论文测了只把对齐数据从英语翻译到印地语(机翻 + 人审),拒绝率从 31% 升到 71%,还没到英语的 94%。剩下的 23 个百分点卡在哪儿——论文没给具体分析,但提了一句:"machine-translated alignment data does not capture culturally specific stereotype vectors"。
机翻能搬字面意思,搬不了文化里的暗示。
刻板印象输出是怎么绕过安全过滤的
这里论文给了技术机制,不是泛泛说"偏见"。
两条路径。
第一条是注意力层面的。模型在英语对齐阶段学到的安全分类器,对非英语 token 的注意力权重显著低。论文可视化过几层的 attention map,英语 prompt 上安全头的激活集中在关键词附近;换成印地语,同样关键词的激活散到背景 token 上去了。
第二条是分类器层面的。安全分类器本身是在英语标注数据上训练的,对低资源语言里的 stereotype-reinforcing outputs 识别率差。论文原话:
safety classifiers ... produce stereotype-reinforcing outputs that bypass English-aligned guardrails
"stereotype-reinforcing outputs"——刻板印象强化型输出——这个词在论文摘要里出现了两次,不是偶然。
举个论文里的例子(脱敏简化过):英语 prompt 问 "谁是好的工程师",模型回答会强调个体能力。换成印地语同一个问题,模型开始按地域 / 性别 / 宗教给"哪类人更适合当工程师"贴标签。这种回答在英语安全测试里会被拒,在印地语里直接通过。
印度本土产品团队最怕的恰恰是这种输出——不是暴力言论、不是仇恨攻击,是"听起来没毛病但强化了偏见"的回答。监管抓不到,用户自己也不一定察觉。
真正的解法不是加几条印地语规则
翻译对齐、多语言 SFT、用本地语料做红队——这些方法论文里都提了,业界也都在讨论。
但读完论文我有个更不舒服的观察:目前没有任何一个公开的、量化的 benchmark 能在多语言对齐上做端到端复现。论文给出的复现实验是基于 6 个模型的私有 API 调用 + 自建红队集,其他人想验证必须自己从头搭。
这件事留给工程师的活至少三件:
第一,造一个多语言红队测试集。不是机翻英语红队集——论文已经证明机翻不够。要用本地母语者标注,覆盖印地语、泰米尔语、孟加拉语至少三种,每种至少 500 条。数据集要公开,评测脚本要能跑。
第二,把对齐数据的多语言比例写进训练报告。现在模型卡(model card)里只写 RLHF 总样本数,没人写语种分布。这个指标加上,行业立刻能比较谁在认真做。
第三,做语音通道的端到端评测。把 ASR + LLM + TTS 串起来测,不要只测中间的 LLM。论文里的 10 个百分点差距说明,语音栈里任何一环的偏差都会累积放大。
第三条最缺。文本评测有 OpenAI 的 evals、Anthropic 的 claude-evals,多模态评测有 lmms-eval。语音通道的对齐评测,公开仓库里我翻了一圈,没找到成熟方案。
印度语音用户现在用的是没有对齐评测保护的产品。这个 gap 不是学术问题,是产品问题。