ステファニー・キース | ゲッティイメージズ
陰謀論の信仰は、特に米国で蔓延しており、人口の 50 パーセントが少なくとも 1 つの突飛な主張を信じているという推計もある。そして、こうした信念は、暴くのが非常に難しいことで知られている。熱心な陰謀論者に事実と証拠で反論すると、彼らはたいてい、さらに主張を強めるだけである。心理学者は、この現象を、動機づけられた推論、つまり偏った情報処理方法に起因するものとしている。
しかし、サイエンス誌に掲載された新しい論文は、その常識に異議を唱えている。AIチャットボットが少なくとも1つの陰謀論を信じる人々と会話する実験では、そのやり取りによって2か月後でさえも、それらの信念の強さが大幅に減少したことが示された。その成功の秘密は、膨大な量の情報と幅広いトピックにアクセスできるチャットボットが、各個人に合わせて反論を正確に調整できることである。
「これは私が今まで見た中で最も興味深い結果の一部です」と、共同執筆者のコーネル大学の心理学者ゴードン・ペニークック氏は記者会見で述べた。「この研究は、陰謀はさまざまな心理的動機や欲求の結果であるという、これまでの私たちの考えを覆すものです。（参加者は）証拠に対して驚くほど反応しました。ポスト真実の世界について多くのことが語られてきました。証拠が重要であることを知ることは、本当に説得力があります。この新しい技術を使用して、人々の考えに特に関連する良い証拠を人々の前に出すことで、私たちはより適応的な方法で行動することができます。これははるかに強力なアプローチです。」
深く根付いた信念に疑問を投げかける事実に直面したとき、人々は新しい証拠を考慮して（ベイジアンの言い方で）先験的仮説を更新するよりも、その信念を維持しようとすることが多い。そのため、陰謀論の深い穴に落ち込んだ人々に手を差し伸べることについて、最近かなり悲観的な見方が広がっている。陰謀論は悪名高く根強く、「民主主義社会に深刻な脅威をもたらす」と著者らは述べている。ペニークック氏と共著者らは、その信念の頑固な根強さについて別の説明を考案した。
特注の反論
問題は、「陰謀論は人によって大きく異なる」ことだと、MITとも提携しているアメリカン大学の心理学者で共著者のトーマス・コステロ氏は言う。「陰謀論は非常に多様です。人々はさまざまな陰謀論を信じており、1つの陰謀論を裏付けるために人々が使う具体的な証拠も人によって異なる場合があります。そのため、陰謀論を広く反駁しようとする試みは、人々が頭の中でその陰謀論についてさまざまなバージョンを持っているため、効果的ではないでしょう。」
対照的に、AI チャットボットは、さまざまなバージョンの陰謀論を暴く取り組みをカスタマイズすることができます。したがって、理論上は、チャットボットは、お気に入りの陰謀論から誰かを揺さぶるのに効果的であることが判明する可能性があります。
仮説を検証するため、チームは 1 つ以上の陰謀説を信じる 2,190 人の参加者を対象に一連の実験を行いました。参加者は、大規模な言語モデル (GT-4 Turbo) と何度か個人的な「会話」を行い、お気に入りの陰謀説とその信念を裏付けると思われる証拠を共有しました。LLM は、参加者個人に合わせた事実と証拠に基づく反論を提示して応答します。GPT-4 Turbo の応答は専門家による事実確認が行われ、主張の 99.2 パーセントが真実であり、誤解を招くと分類されたのはわずか 0.8 パーセント、虚偽と分類されたのはゼロでした (ここで、このデバンキング チャットボットとのやり取りを試すことができます)。
トーマス・H・コステロ
参加者はまず、自分が強く信じている陰謀論と、その信念を裏付けるために頼っている証拠について、一連の自由形式の質問に答えた。すると AI が、それぞれの信念について、たとえば「9/11 は X、Y、Z の理由から内部犯行だった」といった一文の要約を作成した。参加者は、自分の信念に照らしてその文の正確さを評価し、その後、他の陰謀論、信頼できる専門家、AI、社会の他の人々に対する態度などについてのアンケートに答えた。
次に、チャットボットと一対一で対話する番だ。チームは、対話ができるだけ説得力を持つようにプログラムした。チャットボットには参加者の自由回答も入力されていたため、反論を個別に調整しやすかった。たとえば、9/11 は内部犯行だと考える人がいて、ジェット燃料は鋼鉄を溶かすほど高温で燃えないという事実を証拠として挙げた場合、チャットボットは、たとえば、鋼鉄はそれよりずっと低い温度でも強度を失い、タワーの構造が弱くなって倒壊したことを示す NIST レポートなどを使って反論するかもしれない。9/11 は内部犯行だと考える人がいて、その証拠として建物の取り壊しを挙げた場合、それに合わせた別の応答が返される。
参加者は、平均約 8 分間続いたチャットボットとの対話の後に、同じ一連の質問に答えました。Costello らは、これらのターゲットを絞った対話によって、参加者の誤った信念が 20 パーセント減少したことを発見しました。この減少は、2 か月後に参加者が再度評価されたときも持続していました。
ベンス・バゴ（ティルブルフ大学）とジャン＝フランソワ・ボネフォン（フランス、トゥールーズ、CNRS）が付随する見解で指摘したように、これは他の介入によって達成された信念の1～6パーセントの低下と比較すると、かなり大きな効果です。彼らはまた、効果の持続性は注目に値するとみなしましたが、2か月では「誤った情報に基づく陰謀論の信念を完全に排除するには不十分」であると警告しました。