実践

Perplexityの引用、約3割がデタラメだった——AI検索の致命的欠陥

独立系監査でPerplexityの引用の約33%が原文に存在しない数字を指していると判明。RAGにおける引用アラインメントの精度が、AI検索の次の競争軸になる。

文字サイズ

hausresearchが先週公開した監査レポートの結論は刺激的だった。Perplexityの引用のうち、およそ3分の1は、元の記事に該当する数字が存在しないという。

このレポートはHacker Newsのフロントページにしばらく留まり、32ポイント・6コメントを獲得した。手法が公開され、サンプルも明示されている小規模な独立監査としては、悪くない議論量だ。

興味深いのはエラー率そのものではなく、エラーの「種類」の方だ。そこから見えてくるのは、AI検索が抱える過小評価されてきた構造的な弱点である。

監査結果:33%の引用が原文と一致しない

hausresearchの監査手法はいたってシンプルだ。具体的な数字を含む質問群(「○○社のQ3売上はいくらか」のような形式)をPerplexityに投げ、各引用を人力で照合し、原文に本当にその数字があるかどうかを確認した。

サンプル規模は大きくない(数百件レベルのQ&Aペアと報告書に明記)。ただし選定基準は厳格で、「正確な数字が必要」なクエリに絞っている。ユーザーが引用を頼る場面 именноそこだからだ。

結果は以下のとおり:

  • 約33%の引用で、Perplexityが提示した数字が原文に見当たらない
  • エラーのパターンは一貫している——モデルがもっともらしく見える数字を出し、もっともらしく見えるソースリンクを添付するが、クリックすると原文には別の数字が書いてあるか、そもそもその数字への言及がない

レポートはChatGPT Search、Gemini、Grokとの引用精度を直接比較してはいない(横並びの比較には多大な人手がかかり、独立監査では難しい)。ただしHacker Newsのコメント欄や断片的な検証結果を総合すると、これはPerplexity固有の問題ではなく、たまたま定量化されただけということだ。

「幻の引用」は通常のハルシネーションとは別物

通常のLLMハルシネーションにはユーザーがもう慣れている。存在しない人名を出力したり、架空の論文を捏造したり、起こらなかった歴史的イベントを語ったりする。ユーザー側もクロスチェックが必要だと理解している。

だが「幻の引用(hallucinated citation)」は性質が異なる:

  • URLがあり、クリックすれば開ける
  • タイトルがあり、一見それらしいソースに見える
  • ページ番号や段落指定まで付き、フォーマットは学術論文のように整っている
  • しかし、モデルが述べた数字や文は原文に存在しない

この種のハルシネーションは発見が格段に難しい。AI検索を使うユーザーの動機そのものが「引用付きで検証可能」な情報を求めているからだ。引用を見た瞬間、心理的にはすでに最初の検証を通過した気になる。引用自体が偽物なら、検証という仕組みそのものが骨抜きになる。

hausresearchのレポートで挙げられた具体例(Q&Aは公開されている)が典型的だ。Perplexityは権威ある財務報告風の引用を出したが、原文の数字は別の値だった。これは「小数点が間違っている」レベルのミスではなく、ファクトの連鎖が最初から断裂している。

なぜChatGPTの物語捏造より深刻なのか

ChatGPTに物語を書かせる場合、ユーザーはそれを事実ソースとして扱わない。

Perplexityを使うユーザーは、まさに引用を求めて選んでいる。

製品ポジショニングがユーザーの期待を決定づける。Perplexityの売りは「ソース付き、リンク付き、トレース可能」そのものだ。UIでは各段落の末尾に引用が配置され、「根拠のある回答」であることの設計的な強調も明確にある。ユーザーが通常のLLMではなくPerplexityを選ぶ理由は、手動検証のステップを省略したいからにほかならない。

ところが判明したのは、省略したステップこそが最も重要だった場面が33%もあるということだ。

これはモデル能力の失敗ではなく、製品としての信頼の失敗である。

通常のLLMハルシネーションなら、ユーザーはモデルを責める。AI検索の幻の引用なら、ユーザーは製品を責める。信頼の焦点が「モデルが正しく答えられるか」から「製品が自分自身の回答を検証できるか」へ移った瞬間、問題になるのは技術だけでなく、製品が約束した価値そのものになる。

RAGの引用メカニズムはどこで漏れるのか

エンジニアリングの観点から見た典型的なRAG引用パイプラインはこうなる:

  1. Retrieval(検索):クエリに基づきベクトルDBや検索エンジンから候補ドキュメント断片を召回
  2. Rerank(リランキング):より精緻なモデルで候補を並べ替え、関連度の高い順に選出
  3. Citation alignment(引用アラインメント):選択された断片に基づき回答を生成し、各文に対応する引用を付与

どの段階が失敗しても「幻の引用」は起きる:

  • 検索段階の失敗:トピックは合っているが細部が異なるドキュメントを召回し、誤った素材に基づいて生成
  • リランキング段階の失敗:関連度の低い断片を上位に押し出し、生成時に誤ったソースを参照
  • アラインメント段階の失敗:これが最も厄介——モデルが生成した文自体は正しい(実際にどの原文断片かに基づいている)のに、付与された引用が別の断片を指している。長文回答や複数ソース混合回答で「この文はどの引用に対応するか」というステップをモデルが誤るときに起こる

hausresearchの監査で判明した問題の主因は、おそらくアラインメント段階であり、検索段階が副次的に効いているのだろう。アラインメント失敗だとすると、モデルが「この直前の文はどこから来たか」を自己追跡する精度は67%程度ということになる。

これはPerplexity一社で解決できる問題ではない。RAG+生成のアーキテクチャを採用するAI検索製品なら、どこでも同じ罠に陥りうる。OpenAIのChatGPT SearchもGoogleのAI Overviewsもおそらく類似の問題を抱えており、ただ同水準の厳格な独立監査が存在しないだけだ。

ユーザーとしてどう身を守るか

短い答え:全面的に信用しない。

具体的なアドバイスをいくつか挙げる:

  • 数字、日付、人名、引用——こうした精緻な情報は、必ず引用元の原文を開いて照合する。AI検索は曖昧な要約やテーマの整理では精度が出るが、正確な数字ではハルシネーション率が明確に上がる
  • 重要な意思決定の場面(レポート作成、投資分析、論文の参考文献)——AI検索を唯一のソースにせず、最低でも人手による確認ステップを入れる
  • マルチソース照合:同一の事実を2〜3種類のAI検索製品にそれぞれ解答させ、引用が一致するか確認する。3製品すべてが同じ数字を引いていればおそらく正しい。1社だけ具体値を出すなら警戒する
  • 逆方向の検証:引用が存在することだけでなく、引用がその主張を実際に裏付けているかまで確認する。URLが開けることは、内容が合致することの証明にはならない

AI検索が向いている場面:

  • 未知の分野を素早く把握する(テーマレベル)
  • ソースの手がかりを見つける(その後人手で精査)
  • 長いドキュメントを要約する(原本自体を信頼している場合に限る)

使うべきでない場面:

  • 正確な数字が必要な財務・医療・法務情報
  • 学術論文の引用(査読者は必ず確認する)
  • 「間違えたら許容できない」あらゆる状況

編集部の見解

この監査レポートが注目に値するのは、長年議論されつつも定量化されていなかった現象——AI検索の引用ハルシネーション——に「33%」という具体的な数字を割り当てた点にある。

私の見立てでは、引用アラインメントがAI検索レースの次の競争軸になる。現在は「答えられるかどうか」が争点だが、次は「答えに添えられた引用が成立するかどうか」が問われる。これは引用を中核卖点に据えるPerplexityのような製品にとって特に致命的だ——ユーザーが引用を信じなくなった瞬間、製品の堀は崩壊する。

逆張りの観察を一つ。この問題はユーザーをAI検索から離すことはないだろうが、使い方そのものを変える。「あなたの言うことを信じる」から「あなたを手がかりのソースとして使う」へ。この変化が製品デザインに与える影響は、技術改良より大きい可能性がある——今後のAI検索は、今のような混在状態ではなく、「モデルが要約した部分」と「原文からの引用部分」を明示的に区別して表示する方向に進むかもしれない。

不確実な点:hausresearchのサンプル数は控えめで、厳密には33%という数字の信頼区間は広めに取る必要があるだろう。仮に実際のエラー率が20%だったとしても、「引用付き」を掲げる製品としては許容できない水準だ。

引用アラインメントの問題はこれまでRAG実装の詳細扱いで、誰も本気にしていなかった。今回の実機検証を経て、各社はこれを最優先事項として最適化するはずだ——アラインメント精度を引き上げるか、引用メカニズム自体を設計し直すか(たとえば生成時に「この文はどこから来たか」を独立トークンとして出力させ、後処理で検証しやすくする、など)。


出典:hausresearch - Perplexity Citation Audit Report

出典: https://hausresearch.com/reports/perplexity-citation-audit/