その科学情報、本当に正しい？生成AIが作る『もっともらしい嘘』を見抜く方法

数字と脳

生成AIに「○○は健康にいいですか？」と尋ねる。すると研究論文や具体的な数字まで添えた、実に説得力のある回答が返ってくる。しかし、その論文が実在しないとしたら‥

我が国の個人ベースでの生成AI利用者の割合も統計によっては半数を超え、ビジネスのみならず日常生活でもその活用は当たり前になりつつあります。この生成AIに科学的な質問をしてみたとしましょう。するとたちどころに、専門用語を駆使した滑らかな説明が瞬時に返ってくるものです。論文名や研究機関、具体的な数値まで示されることもあります。そしてその文章は、専門家が書いた解説と見分けがつかないほど整っています。

しかし、文章が科学的に整っていることと、その内容が科学的に正しいこととはおのずと別問題。生成AIの普及によって、私たちは明らかなデマだけでなく、一見すると正しそうな科学情報を見抜く力を求められるようになってしまいました。

生成AIは、なぜ科学っぽい誤情報を作れるのか

生成AIの動作機序は、質問に対する正答を真実のデータベースから取り出し提示する、というようなものではありません。彼らは学習した大量の文章をもとに、その文脈で続く可能性の高い言葉を予測しながら回答を組み立てているのです。この仕組みは、分かりやすい説明や要約を作るうえでは強力です。

一方それにより、内容が正しいかどうかとは別に、文章として自然な回答を作れてしまう、という事実があります。たとえば、実在しない論文名や著者名を生成したり、ある研究の結論を実際以上に一般化してしまったり。動物実験の結果を、そのまま人間にも当てはまるように説明する場合もあります。厄介なのは、誤情報や根拠の希薄な情報が、支離滅裂な形ではなく、専門用語や因果関係を備えた整然とした文章として現れること。

専門用語や数字は、正しさの証明ではない

人は、具体的な数字や専門用語を含む説明を信頼しやすいもの。「成功率は87％」「最新の量子理論によれば」「脳科学的に証明された」といった表現は、それだけで説得力を持ってしまいます。白衣や聴診器、実験室風景、数式やグラフなども、もっともらしく見せるためのアイコンとして重宝されます。

しかし、科学において重要なのは、数字が存在することなどではありません。重要なのは、その数字がどのように得られたのか。調査対象は何人だったのか。比較対象は設定されていたのか。測定条件は適切だったのか。統計的な差はあっても、実用上意味のある差なのか。こうした検討がなければ、数字だけを見ても研究の信頼性は本来判断できません。また、「関連が見つかった」という結果が、AIの説明の中で「原因であることが判明した」に変わっていることも。相関関係と因果関係の混同は、科学報道でも頻繁に起きる典型的な誤りです。

AIに出典を求めると、論文名やURLなどが表示されることがあります。しかし出典が示されたからといって、その回答が検証されたことにはなりません。まず、その論文が実在するかを確認する必要があります。AIの場合、まずここが怪しい。次に、仮にそれが実在していたとしても、AIの説明が論文の内容と一致しているかを確かめなければなりません。論文の一部に書かれた限定的な結果が、AIによって普遍的な結論に拡張されることもあります。研究者が「さらなる検証が必要」と記しているのに、AIが「効果が実証された」と要約する可能性すらあります。科学では、出典の有無だけでなく、出典が主張を本当に支えているかが問われるのですが、そこがすっぽり抜けたりするのです。引用は飾りではない。それは読者が主張を追跡し、再検討するための手がかりなのです。

AIの回答を検証する手順

AIが提示した科学情報を確認するには、まず主張を細かく分解するのがよいでしょう。たとえば、「○○（食品名）が記憶力を改善する」という説明なら、誰の記憶力が、どの程度、どの期間で改善したのか。それは健康な成人なのか、高齢者なのか、動物実験なのか。対照群との比較はしたのか、そこで何がどれほど向上したのか。何週間または何カ月の摂取後の測定か。それによって意味は大きく変わります。

論文、研究機関、公的機関の資料など、一次情報に当たることも重要です。この時、AI自身に再確認を求めるだけでは不十分です。同じAIが、先ほどの誤りを別のもっともらしい説明で補強する可能性があるのです。さらに、肯定的な情報だけでなく反対の結果や再現研究も探します。科学的な結論は、一つの研究だけで決まるものではありません。複数の研究が同じ方向を示しているか、独立した研究者が再現できているかが重要です。

科学の科学たるゆえんは、疑いのない頑強な真実を明らかにすることではありません。主張の根拠が公開され、第三者が検証でき、誤りがあれば修正される柔軟性・公開性・自己修正性にあります。生成AIの回答は、考えるための材料や調査の出発点としては有用です。難しい論文の概要をつかんだり、検索すべき用語を見つけたりする助けにもなります。しかし、AIを最終的な権威として扱うべきではありません。AIが流暢に語るほど、私たちはその説明を吟味せず受け入れがち。しかし、そこで自らの過信を疑う一歩を踏み出す本当の知性が問われるのです。

要するにAIが作った「もっともらしい科学」を見抜く鍵は、すべての専門知識を身につけることなどではない、ということ。出典を確認し、主張の強さと証拠の強さが釣り合っているかを考え、必要なら判断を保留することなのです。生成AI時代に最も重要になるのは、すぐに答えを得る能力ではなく、得られた答えを検証する習慣です。