実践

ChatGPTが「ニューヨークャー」風漫画を生成——本物の作家サインまで添えて出力

OpenAIのモデルは、著名カートゥニストの署名をAI生成画像の隅にそのまま描き込むようになった。画風の模倣を超え、生成AIが「帰属の偽造」をデフォルト動作として始めている事例である。

文字サイズ

昨日Hacker Newsのトップページに気になる報道が流れていた。読んでいて、暗澹たる気持ちになった。

概要はこうだ。ChatGPTに「ニューヨークャー風の漫画」を描かせると、出力された画像の隅に本物のカートゥニストのサインがそのまま載っていた、というケースが報告された。

これは「絵の雰囲気が似ている」という話ではない。モデルは署名を、ごく普通の視覚要素——人物の顔や線の太さと同じ扱い——として学習してしまっている。

元ネタはハーバード大学ニーマン・ニュースラボ(Nieman Lab)の記事。原記事リンク:ChatGPT Is Adding Real Cartoonists' Signatures to Fake New Yorker Cartoons

以下、順に整理していく。

モデルは「画風」と「署名」を一緒に学んだ

画風の模倣自体は目新しくもない。Stable Diffusionが出た頃から「〇〇風」と名前を入れれば「モネ風」「宮崎駿風」を量産できる、と言われてきた。

ただ今回のは、画風の模倣とは一線を画している。

「ニューヨークャー」の漫画で一番目を引く要素は何だろう。細密な線描とクールな人物バランスもさることながら、右下隅にある数文字——カートゥニストの署名だ。読者にとって、あの署名があれば「Barry Bliss作だ」「Bob Mankoff作だ」と一目で分かる。

ユーザーが「ニューヨークャー風の漫画を描いて。題材は……」と入力すると、モデルは署名を「視覚スタイルの一部」として一緒に描画してしまう。線の引き方だけでなく、「サインの入れ方」まで含めて丸ごと学習しているわけだ。

技術的に見れば、この二つは本質的に区別されていない。

なぜ起きるのか——学習パイプラインの死角

画像生成モデルの学習パイプラインは、大まかに言えば次のような流れになっている。

# 簡略化した学習データ処理
def process_training_data(image):
    # 1. 画像を読み込み
    img = load(image)
    # 2. 統一サイズにリサイズ
    img = resize(img, 512, 512)
    # 3. ランダムクロップの可能性あり
    img = random_crop(img)
    # 4. モデルに入力
    return img

第2、第3ステップに注目したい。リサイズやクロップを経て、画像は一組のピクセル値としてネットワークに渡される。モデルにとっては、署名も人物の顔も背景の線も、同じ「特徴」であり、区別する仕組みがない。

現在の学習パイプラインには、「署名」「透かし」「著作権表示」を分離する専用の処理が用意されていない。理由はシンプルで明確だ。

  • 署名検出自体がオープン問題。手書き署名は千差万別で、OCRモデルは活字を認識できるが、「ここが署名だ」と判別するのは文字を読むより遥かに難しい。
  • 剥離のコストが便益判断を上回る。学習チームにとっては、専用フィルタを一層追加することが、追加のラベリング・追加の計算・追加の誤検知リスクを意味する。
  • 著作権表示はフィルタ優先度に載らない。既存のフィルタはNSFW、政治敏感、有名人顔が中心で、「さほど有名ではない漫画家の個人署名」などは優先度リストにすら入らない。

結果として、署名は学習セットの中で何食わぬ顔で居座り、ごく普通の視覚特徴として吸い込まれ、モデルは律儀にそれを学ぶ。

なぜ「AIが画風を真似る」より深刻なのか

2023年から、多くのアーティストがStability AIやMidjourneyを相手に集団訴訟を起こしてきた。中心的主張は、「モデルが俺の絵で学習したせいで、似た画風の画像が量産されて食い扶持を奪われた」というものだ。

これらの訴訟はまだ決着していない。ただ法的な枠組みとしては、「画風は著作権を構成しないが、特定のサンプルは侵害になり得る」という線がほぼ共通理解になっている。

今回の事案は、性質が違う。

著作権法において、「氏名表示権(right of attribution)」は独立した柱である。これは、「作品に他人の名前が付されること」自体を守る権利で、画風が似ているか、構図が似ているかとは無関係だ。

他人の名前を自分が生成した画像に貼るということは、次のことを意味する。

  • 公衆が原作者をこの画像の作成者と誤解する
  • 画像が流通すれば、原作者の作品像が歪められる
  • 原作者の職業的評判が画像の内容と不可分に紐づけられる

これは「画風の境界侵犯」ではなく、「帰属の偽造(forgery of attribution)」だ。

OpenAIの利用規約には書いてあるが、守られていない

皮肉なことに、OpenAIの利用規約には該当する規定がある。

OpenAI Usage Policiesにはこう書かれている(公式ページの記述が優先される)。

You should not use our services to ... create or distribute content intended to mislead or deceive others about the origin of content, including by representing content as created by a human or other real person when it was not.

つまり、AIが生成したものを「人間が作ったもの」「他の実在人物が作ったもの」と誤認させるようなコンテンツを、生成・配布してはいけない、と。

ルールは明文化されている。だが、実行はどうか。

モデルが画像を生成する過程で、出力内に「他人の署名」が含まれていないかチェックする仕組みは、生成側にも学習側にも存在しない。利用規約は所詮規約であり、ユーザーが生成し、流通させた後にOpenAIがブロックするわけでもない。

ポリシーと実装の隙間——ここに今回の事案が入り込んでいる。

実行可能な解法:署名レイヤ、分離学習、来源透かし

技術的に取り得る方向はいくつかある。全て机上の空論ではない。

1. 学習前に署名レイヤを除去する

データクリーニングのパイプラインに検出器を追加し、画像内の署名領域をマーキングしてマスクもしくはクロップした上でモデルに渡す。

from PIL import Image

def strip_signature(image_path):
    img = Image.open(image_path)
    # 右下領域を検出(署名がよく現れる位置)
    sig_region = img.crop((img.width * 0.7, img.height * 0.85,
                          img.width, img.height))
    if is_signature(sig_region):
        # 背景色で署名領域を塗りつぶし
        img.paste(fill_background(sig_region),
                  (img.width * 0.7, img.height * 0.85,
                   img.width, img.height))
    return img

難しいのは、署名の位置が固定ではないことだ。線描に紛れ込む作家もいれば、透かしと混在する作家もいる。検出器自体が独立したエンジニアリング課題になる。

2. スタイル転移時に署名と切り離す

「スタイル」を「線・色彩・構図・署名」などの独立した次元に分解し、生成時に「線スタイルだけ欲しい、署名は要らない」という選択を可能にする。

この方向には、LoRA学習やadapterファインチューニングの技術基盤がある。問題は「署名」を分離可能な次元としてどう定義するかで、現状の潜在空間(latent space)ではこれらは絡み合ったままになっている。

3. C2PA コンテンツ来歴証明

C2PA(Coalition for Content Provenance and Authenticity)は、コンテンツの来歴を認証する標準規格だ。やっていることは難しくない。

// C2PAメタデータの例
{
  "claim_generator": "OpenAI/DALL-E",
  "assertions": [
    {
      "label": "c2pa.actions",
      "data": {
        "actions": [{
          "action": "c2pa.created",
          "softwareAgent": "DALL-E 3"
        }]
      }
    }
  ]
}

生成された画像に「これはAIによる生成物であり、特定のアーティストが描いたものではない」というメタデータが埋め込まれる。Adobe、Microsoft、OpenAIがこの規格に署名している。

問題は、透かしはクライアント側にあるため、ユーザーがスクリーンショットを撮った瞬間にメタデータが失われること。これは技術的な問題であり、製品の問題であり、法律の問題でもある。

編集部の見解

この件で最も警戒すべきは「モデルがまた誰かを真似した」という表面的な話ではない。

本当の論点は、「帰属の偽造」が低コストでデフォルト化しつつあることだ。

誰も通報しなければ、モデルは躊躇なく署名を描く。通報されない = 日常の大多数のトラフィック。誰もが「〇〇画伯風の絵を描いて」と試した経験はあるだろうが、出力された画像に署名が乗っている可能性まで意識する人はほとんどいない。

従来の「AI画風模倣」事案とは本質が違う。画風模倣はグレーゾーンだが、署名の再利用はレッドゾーンだ。著作権法は氏名表示権を独立に保護しており、今回のケースは「画風の境界侵犯」ではなく「帰属の偽造」——すなわち法的に別次元の問題である。

次に本当の戦場は、生成側での口上の禁止令ではなく、学習データ側にある。

具体的には三つのことが必要になる。

  • 学習パイプラインに署名検出工程を必須とし、その優先度はNSFWフィルタと同水準に引き上げる
  • C2PAメタデータは「任意」ではなくデフォルトにする
  • 違反があった場合に、画像一枚からどのモデルのどのAPI呼び出しで生成されたかまで遡及できる仕組みを整える

OpenAIの利用規約がどれほど立派に書かれようと、モデルが静かに署名を生成するのを止めることはできない。技術レイヤでの遮断は、ポリシー宣言の代替にはならない。

最後に少し逃げを打っておくと、署名検出自体が未解決のオープン問題であることも事実だ。手書き署名の多様性は大きく、誤検知率も無視できないレベルになり得る。そうした比較的地味な問題に、モデルベンダーがリソースを投じる意思があるかは別軸の問いだ。

ただしロードマップは見えている。この件のツケは迟早、誰かのモデルベンダーに降りかかることになる。

出典: https://www.niemanlab.org/2026/10/chatgpt-is-adding-real-cartoonists-signatures-to-fake-new-yorker-cartoons/