AIチャットボットと検索が信念を強化する理由と対策　稗田利明

こんにちは、稗田利明です！

AIチャットボットや検索エンジンは、私たちが「知りたい」と思うことを的確に答えてくれる便利な存在です。しかし、最新の研究によれば、こうしたツールは私たち自身の偏見や先入観を強化する側面も持っています。米国科学アカデミー紀要（PNAS）に掲載された論文によると、GoogleやChatGPTなどで情報を探す際、多くの人は自分の信念や期待を反映した語句で検索してしまう傾向があることが明らかになりました1 2 5。

例えば、コーヒーの健康効果について調べる場合、コーヒー好きな人は「コーヒーは健康的か」など肯定的な語句で検索しやすく、逆に懐疑的な人は「コーヒーは体に悪いか」と否定的な語句を使いがちです。こうした検索の仕方が、表示される結果にも大きく影響します。つまり、検索エンジンやチャットボットは、利用者の信念に沿った、より狭い範囲の答えを返しやすくなり、結果的に「自分の考えが正しい」と感じやすくなってしまうのです1 2。

研究チームは約1万人を対象に、カフェインの健康影響やガソリン価格、犯罪率、新型コロナウイルス、原子力発電など様々なテーマで検索実験を行いました。その結果、質問の仕方とプラットフォームの応答の両方が「狭い検索効果」を生み出し、信念を補強する傾向が強まることが確認されました。一方、幅広い視点を提示する設計の検索エンジンやチャットボットを使った場合には、利用者の信念がより変化しやすいという結果も得られました2。

この問題に対しては、より多様な情報を得るための工夫が求められます。筆頭著者のLeung氏は、以下の3つの方法を提案しています。

具体的かつ中立的な語句で検索する
「良い」「悪い」といった評価語を避け、中立的な表現や複数の語句で検索し、結果を比較することで偏りを減らせます。
多様な視点を積極的に求める
AIチャットボットには「賛成・反対両方の意見を教えて」といったプロンプトを使い、複数の視点や根拠を示すよう依頼するのが有効です。
追加質問のしすぎに注意する
検索を繰り返すことで、かえって狭い情報に閉じ込められてしまうこともあるため、ある段階で質問を止める判断も重要です2。

AIや検索エンジンが発達した現代では、私たち自身が「どのように問いを立て、どのような情報を求めるか」を意識的に選ぶことが、より正確で多様な知識を得るための鍵となります2。

稗田利明のIT Insights

ITの未来を探る、情報発信"

AIチャットボットと検索が信念を強化する理由と対策　稗田利明