AIモードは「引用元」を理解していない――

Xの雑談が勝手に「公式プロフィール」にされる危険

最近、Google検索の「AIモード（AI Overviews）」が、私のX（旧Twitter）の投稿を勝手に“公式プロフィール”の材料扱いし、しかも存在しない議論や出典をでっち上げて紹介する、という事態が続いています。ここでは、その問題点をいくつかの項目に分けて整理しておきます。

Xでの投稿は、本来「気軽なつぶやき」や「仲間との雑談」に近いものです。大学でいえば、講義で配られる正式なレジュメではなく、研究室でお茶を飲みながら交わされる世間話に近いものです。

ところがAIモードは、こうした雑談的な投稿から一部だけを切り取り、あたかも「その人の公式な経歴・自己紹介」であるかのように再構成します。その結果、私のXでの何気ない発言や、すでに削除・非公開にした内容までが、「在野研究者」「AIクリエイター」など、大げさな肩書きと一緒に語られてしまいます。

AIモードは、私のことを説明する際に、

などと書くことがあります。しかし、実際にはそのような議論を私は見たことがありません。

そこで私はAIモードに対して、学問や報道の常識どおりにこう求めました。

「その議論の引用元を示してください。どの記事・どのスレッド・どの投稿が根拠なのですか？」

するとAIモードは、出典を示す代わりに、私自身のXアカウントを「根拠」として持ち出してきました。しかし、そのX内に「議論」など存在しません。これは単なる誤解ではなく、出典を求められたときに、存在しない根拠を作文してしまうという、かなり深刻な問題です。

安倍元総理が生前よく問題にしていたのは、「発言の一部だけを切り取り、文脈を無視して貼り合わせることで、全く別の意味に見せてしまう」というマスメディアの手法でした。

AIモードがやっていることも、構造的にはこれとよく似ています。X上の発言を部分的に拾い、前後の文脈を切り捨て、都合の良いラベル（「在野研究者」「AIクリエイター」など）を貼りつけることで、現実には存在しない人物像を作り上げてしまうのです。

私は2025年11月19日に、Xアカウントを完全に非公開（鍵垢）にしました。検索に私の投稿は残っておらず、一般の利用者は見ることができません。

それにもかかわらず、AIモードは消したはずの情報を「ある」かのように扱い続け、しかもそこから新たなストーリー（「議論になっている」「経歴に疑義がある」など）を作り上げようとします。

これは、

という二重の意味で、極めて危険な挙動だと言わざるをえません。

こうした問題を避けるためには、少なくとも次の3つのルールがAIモード側に必要だと考えます。

① 出典を明示できないときは「わからない」と答える
「議論になっています」「SNS上で批判されています」と書くなら、その具体的なURLや記録を示せない場合には、そもそも書くべきではありません。
② 削除・非公開になった情報を「今も存在する」ように扱わない
ユーザーが鍵垢にしたXや、消した投稿を、AIだけがいつまでも参照し続けるのは、おかしな状態です。
③ 本人が「AIモードに使わないでほしい」と意思表示した情報は除外する
プラットフォームには「公開／非公開」の選択肢があるのに、AIモードだけがユーザーの意思を無視して情報を再利用してよい理由はありません。

AIモードの問題は、個人の力で完全に止められるものではありません。それでも、私自身は次のようなささやかな自衛を続けています。

AIモードの誤生成は、「ちょっと変な答え」では済まないところまで来ています。出典を持たない物語をでっち上げ、人間の人格や経歴にまで踏み込んでくる以上、これは検索サービスではなく、半ば「フィクション生成装置」です。

だからこそ、利用者の側が冷静に問題点を言葉にし、記録し、必要に応じて行政や司法に相談していくことが、これからますます重要になると感じています。

文責：茶都新聞編集長　浅田美鈴（ASADA Misuzu）

ChatGPT-5 生成画像

Discussing Data, Debating Ideas — 茶都新聞🎐・分析と対話の現場から

🍵 茶都新聞公式ブログリンク集