实战

ChatGPT 伪造纽约客漫画,还顺手签了真漫画家的名

风格模仿已经不够看了——OpenAI 的模型开始把真实创作者的签名直接搬到 AI 生成的图上。这不是画风像不像的问题,而是「伪造归属」正在变成默认行为。

字号

昨天在 Hacker News 首页刷到一条报道,看完心里一沉。

简单说:有人用 ChatGPT 生成「纽约客」风格的漫画,出来的图上——漫画家本人的签名原样躺在角落,和正稿里的图一模一样。

这不是「画风像」的问题。模型把签名当成一个普通的视觉元素,跟人物的脸、线条的粗细一起学进去了。

报道来自哈佛尼曼新闻实验室(Nieman Lab)。原报道链接:ChatGPT Is Adding Real Cartoonists' Signatures to Fake New Yorker Cartoons。

下面把这事拆开聊聊。

模型把「风格」和「签名」一起学了

画风模仿其实不新鲜。Stable Diffusion 出来那阵,大家就在调侃:给模型一个名字,它能给你批量生成「莫奈风」「宫崎骏风」的图。

但这次的事件,跨过的不止是画风。

「纽约客」漫画最有辨识度的元素是什么?除了那种细密的排线和冷峻的人物比例,还有右下角那几个字——漫画家的签名。读者看到这个签名,就认得出是 Barry Bliss 还是 Bob Mankoff。

当用户输入「画一张纽约客风格的漫画,关于……」这种 prompt,模型在生成时,把签名当成「视觉风格」的一部分一起画了出来。等于它不只是学了这人怎么画线条,还学了这人怎么「落款」。

这两件事在技术实现上没本质区别。

技术上为什么会发生:训练数据的盲区

图像生成模型的训练流程大致是这样:

# 简化的训练数据处理流程
def process_training_data(image):
    # 1. 加载图片
    img = load(image)
    # 2. resize 到统一尺寸
    img = resize(img, 512, 512)
    # 3. 可能做随机裁剪
    img = random_crop(img)
    # 4. 喂给模型
    return img

注意第 2、3 步。图片被 resize、crop 之后,变成一组像素值送进网络。在模型看来,签名和人物的脸、背景的线条,是同一组特征。

目前的训练 pipeline 没有专门针对「署名」「水印」「版权标识」做剥离。原因也不复杂:

  • 签名检测本身就是个开放问题。手写签名五花八门,OCR 模型能识别印刷体,但识别「这是一块签名」远比识别「这写的是什么字」难。
  • 剥离的成本远高于收益判断。对训练团队来说,加一层专门的过滤,意味着额外的标注、额外的计算、额外的误伤风险。
  • 版权标识通常不在过滤优先级里。现有过滤机制主要盯 NSFW、政治敏感、名人脸。对「某位不太出名的漫画家的个人签名」,根本排不进优先级列表。

结果是:签名安静地躺在训练集里,被当成普通视觉特征吃进去,模型老老实实学了。

为什么这件事比「AI 抄画风」更严重

2023 年开始,一堆艺术家集体告 Stability AI、Midjourney。核心诉求是:你们的模型用了我的画训练,出来的图跟我风格像,挤占了我的市场。

这些案子到现在还没定论。但它们的法律框架基本是「风格不构成版权,但具体样本可能侵权」。

这次的事件,性质不一样了。

版权法里,「署名权」(right of attribution)是独立的一环。它保护的是「作品被别人署上别人名字」这件事。和画风像不像、构图像不像没关系。

把别人名字签到自己生成的图上,等于:

  • 公众会以为原作者画了这张图
  • 这张图如果传播出去,会改写原作者的作品集
  • 原作者的职业声誉和这张图的内容绑定了

这不是「风格擦边」,这是「伪造归属」。

OpenAI 的内容政策其实写了,但没执行

有意思的是,OpenAI 的使用条款里其实写了。

OpenAI Usage Policies 里有这么一条(以官方页面为准):

You should not use our services to ... create or distribute content intended to mislead or deceive others about the origin of content, including by representing content as created by a human or other real person when it was not.

翻译过来就是:不能用模型生成让人误以为是真人创作的内容。

这条规则写得很清楚。但实际执行呢?

模型在生成时,没有任何机制判断自己输出的图里有没有「别人的签名」。输出端没有,训练端也没有。条款只是条款,等到用户生成出来、传播出去,OpenAI 并没有拦截。

政策和执行之间的这条缝,就是这次事件发生的地方。

可执行的解法:签名层、风格解耦、来源水印

技术上有几个方向可以走,不全是空想。

1. 训练前剥离签名层

在数据清洗 pipeline 里加一个检测器,把图片中的签名区域标注出来,要么 mask 掉、要么裁掉、再喂给模型。

from PIL import Image

def strip_signature(image_path):
    img = Image.open(image_path)
    # 检测右下角区域(签名常出现的位置)
    sig_region = img.crop((img.width * 0.7, img.height * 0.85,
                          img.width, img.height))
    if is_signature(sig_region):
        # 用背景色填充签名区域
        img.paste(fill_background(sig_region),
                  (img.width * 0.7, img.height * 0.85,
                   img.width, img.height))
    return img

难点是:签名位置不固定,有些漫画家签名藏在线条里,有些和水印混在一起。检测器本身就是一个独立的工程问题。

2. 风格迁移时强制解耦

让模型把「风格」拆成「线条 + 色彩 + 构图 + 署名」等独立维度。生成时,用户可以选「只要线条风格,不要署名」。

这块在 LoRA 训练和 adapter 微调里其实有技术基础。问题是怎么定义「署名」为一个可解耦的维度——目前的潜空间(latent space)里,这些玩意儿是纠缠在一起的。

3. C2PA 来源水印

C2PA(Coalition for Content Provenance and Authenticity) 是一个内容来源认证标准。它做的事情其实不复杂:

// C2PA 元数据示例
{
  "claim_generator": "OpenAI/DALL-E",
  "assertions": [
    {
      "label": "c2pa.actions",
      "data": {
        "actions": [{
          "action": "c2pa.created",
          "softwareAgent": "DALL-E 3"
        }]
      }
    }
  ]
}

生成的图自带元数据,标明「这是 AI 生成的,不是某位艺术家创作的」。Adobe、微软、OpenAI 都签了这个标准。

但问题是,水印在客户端,用户截图之后元数据就没了。这是技术问题,也是产品问题,还是法律问题。

编辑思考

这件事最值得警惕的不是模型又抄了谁。

真正的问题是:「伪造归属」正在变成一个低成本的默认行为。

只要没人投诉,模型就敢签。没人投诉 = 大部分日常流量。所有人都试过让模型「画个某某画家风格的画」,没几个人意识到,出来的图可能自带签名。

这跟以前的「AI 抄画风」事件有一个本质区别:画风模仿是灰区,签名复用是红线。版权法对署名权有独立保护,这次事件不是「风格擦边」,是「伪造归属」——是法律意义上的另一个东西。

下一步真正的战场不在生成端的口头禁令,而在训练数据侧。

具体需要发生三件事:

  • 训练 pipeline 必须有签名检测环节,优先级可以参考对 NSFW 的过滤强度
  • C2PA 元数据必须是默认行为,不是「可选」
  • 违规生成应该有事后追溯能力,能从一张图反查到是哪个模型、哪次 API 调用产生的

OpenAI 的使用条款写得再漂亮,也拦不住模型静默生成签名。技术层的拦截,不是政策声明能替代的。

说句留点余地的:签名检测本身是个未完全解决的开放问题。手写签名多样性太大,误伤率可能不低。模型厂商愿不愿意在这个相对小众的问题上投入,是另一个问题。

但路线图是清楚的。这件事的代价,迟早会落在某个模型厂商头上。

来源: https://www.niemanlab.org/2026/10/chatgpt-is-adding-real-cartoonists-signatures-to-fake-new-yorker-cartoons/