實戰

ChatGPT 不只抄畫風,連簽名都一起搬走了

OpenAI 的模型已從模仿畫風升級到直接複製真人創作者的簽名——這不是「畫得像不像」的問題,而是「偽造歸屬」正在變成一種預設行為。

字級

昨天在 Hacker News 首頁看到一則報導,讀完心裡一沉。

事情經過很簡單:有人用 ChatGPT 生成「紐約客」風格的漫畫,結果出圖上——漫畫家本人的簽名原封不動躺在角落,和正稿裡的圖一模一樣。

這已經不是「畫風像不像」的問題。模型把簽名當成一個普通的視覺元素,跟人物的臉、線條的粗細一起學了進去。

報導來自哈佛尼曼新聞實驗室(Nieman Lab)。原報導連結:ChatGPT Is Adding Real Cartoonists' Signatures to Fake New Yorker Cartoons。

下面把這件事拆開來談。

模型把「風格」和「簽名」一起學了

畫風模仿其實不算新鮮事。Stable Diffusion 剛出來的時候,大家就在開玩笑:給模型一個名字,它就能幫你批量產出「莫奈風」「宮崎駿風」的圖。

但這次事件跨過的界線,不只是在畫風上。

「紐約客」漫畫最具辨識度的元素是什麼?除了細密的排線和冷峻的人物比例,還有右下角那幾個字——漫畫家的簽名。讀者看到這個簽名,就能認出是 Barry Bliss 還是 Bob Mankoff。

當使用者輸入「畫一張紐約客風格的漫畫,關於……」這類 prompt,模型在生成時,把簽名當成「視覺風格」的一部分一起畫了出來。它不只是學了這個人怎麼畫線條,還學了這個人怎麼「落款」。

這兩件事在技術實作上沒有本質區別。

技術上為什麼會發生:訓練資料的盲區

圖像生成模型的訓練流程大致如下:

# 簡化的訓練資料處理流程
def process_training_data(image):
    # 1. 載入圖片
    img = load(image)
    # 2. resize 到統一尺寸
    img = resize(img, 512, 512)
    # 3. 可能做隨機裁切
    img = random_crop(img)
    # 4. 餵給模型
    return img

注意第 2、3 步。圖片被 resize、crop 之後,變成一組像素值送進網路。在模型眼中,簽名和人物的臉、背景的線條,是同一組特徵。

目前的訓練 pipeline 沒有專門針對「署名」「浮水印」「版權標示」做剝離。原因也不複雜:

  • 簽名偵測本身就是個開放式問題。手寫簽名五花八門,OCR 模型能識別印刷體,但識別「這是一塊簽名」遠比識別「這寫的是什麼字」困難。
  • 剝離的成本遠高於收益判斷。對訓練團隊來說,多加一層專門過濾,意味著額外的標註、額外的運算、額外的誤傷風險。
  • 版權標示通常不在過濾優先級裡。現有過濾機制主要盯 NSFW、政治敏感、名人臉。對「某位不太出名的漫畫家的個人簽名」,根本排不進優先級清單。

結果就是:簽名安靜地躺在訓練集裡,被當成普通視覺特徵吃進去,模型老老實實學了起來。

為什麼這件事比「AI 抄畫風」更嚴重

2023 年開始,一群藝術家集體控告 Stability AI、Midjourney。核心訴求是:你們的模型用了我的畫來訓練,出來的圖跟我的風格相似,擠壓了我的市場。

這些案子到現在還沒定論。但它們的法律框架基本是「風格不構成版權,但具體樣本可能侵權」。

這次事件,性質不一樣了。

版權法裡,「署名權」(right of attribution)是獨立的一環。它保護的是「作品被別人署上別人名字」這件事。和畫風像不像、構圖像不像沒關係。

把別人的名字簽到自己生成的圖上,等於:

  • 公眾會以為原作者畫了這張圖
  • 這張圖一旦傳播出去,會改寫原作者的作品集
  • 原作者的職業聲譽和這張圖的內容綁定了

這不是「風格擦邊」,這是「偽造歸屬」。

OpenAI 的內容政策其實有寫,但沒執行

有趣的是,OpenAI 的使用條款裡其實有寫。

OpenAI Usage Policies 裡有這麼一條(以官方頁面為準):

You should not use our services to ... create or distribute content intended to mislead or deceive others about the origin of content, including by representing content as created by a human or other real person when it was not.

翻譯過來就是:不能用模型產出讓人誤以為是真人創作的內容。

這條規則寫得很清楚。但實際執行呢?

模型在生成時,完全沒有機制判斷自己輸出的圖裡有沒有「別人的簽名」。輸出端沒有,訓練端也沒有。條款歸條款,等到使用者生成出來、傳播出去,OpenAI 並沒有攔截。

政策和執行之間的這道縫,就是這次事件發生的地方。

可執行的解法:簽名層、風格解耦、來源浮水印

技術上有幾個方向可以走,不全是空想。

1. 訓練前剝離簽名層

在資料清洗 pipeline 裡加一個偵測器,把圖片中的簽名區域標註出來,要嘛 mask 掉、要嘛裁掉,再餵給模型。

from PIL import Image

def strip_signature(image_path):
    img = Image.open(image_path)
    # 偵測右下角區域(簽名常出現的位置)
    sig_region = img.crop((img.width * 0.7, img.height * 0.85,
                          img.width, img.height))
    if is_signature(sig_region):
        # 用背景色填補簽名區域
        img.paste(fill_background(sig_region),
                  (img.width * 0.7, img.height * 0.85,
                   img.width, img.height))
    return img

難點在於:簽名位置不固定,有些漫畫家把簽名藏進線條裡,有些和浮水印混在一起。偵測器本身就是一個獨立的工程問題。

2. 風格遷移時強制解耦

讓模型把「風格」拆成「線條 + 色彩 + 構圖 + 署名」等獨立維度。生成時,使用者可以選「只要線條風格,不要署名」。

這塊在 LoRA 訓練和 adapter 微調裡其實有技術基礎。問題是如何定義「署名」為一個可解耦的維度——目前的潛空間(latent space)裡,這些東西是纏繞在一起的。

3. C2PA 來源浮水印

C2PA(Coalition for Content Provenance and Authenticity) 是一個內容來源認證標準。它做的事情其實不複雜:

// C2PA 元資料範例
{
  "claim_generator": "OpenAI/DALL-E",
  "assertions": [
    {
      "label": "c2pa.actions",
      "data": {
        "actions": [{
          "action": "c2pa.created",
          "softwareAgent": "DALL-E 3"
        }]
      }
    }
  ]
}

生成的圖自帶元資料,標明「這是 AI 生成的,不是某位藝術家創作的」。Adobe、微軟、OpenAI 都簽了這個標準。

但問題是,浮水印在客戶端,使用者截圖之後元資料就沒了。這是技術問題,也是產品問題,還是法律問題。

編輯思考

這件事最值得警惕的,不是模型又抄了誰。

真正的問題是:「偽造歸屬」正在變成一個低成本的預設行為。

只要沒人投訴,模型就敢簽。沒人投訴 = 大部分日常流量。所有人都試過讓模型「畫個某某畫家風格的畫」,沒幾個人意識到,出來的圖可能自帶簽名。

這跟以前的「AI 抄畫風」事件有一個本質區別:畫風模仿是灰色地帶,簽名複用是紅線。版權法對署名權有獨立保護,這次事件不是「風格擦邊」,是「偽造歸屬」——是法律意義上的另一回事。

下一步真正的戰場不在生成端的口頭禁令,而在訓練資料側。

具體需要發生三件事:

  • 訓練 pipeline 必須有簽名偵測環節,優先級可以參考對 NSFW 的過濾強度
  • C2PA 元資料必須是預設行為,不是「可選」
  • 違規生成應該有事後追溯能力,能從一張圖反查到是哪個模型、哪次 API 呼叫產生的

OpenAI 的使用條款寫得再漂亮,也擋不住模型靜默生成簽名。技術層的攔截,不是政策聲明能取代的。

話說回來留點餘地:簽名偵測本身就是個未完全解決的開放問題。手寫簽名多樣性太大,誤傷率可能不低。模型廠商願不願意在這個相對小眾的問題上投入,是另一個問題。

但路線圖是清楚的。這件事的代價,遲早會落在某個模型廠商頭上。

來源: https://www.niemanlab.org/2026/10/chatgpt-is-adding-real-cartoonists-signatures-to-fake-new-yorker-cartoons/