医学論文、13.5%にAIの痕跡「乱造」で増す誤情報リスクと査読負担

AIが得意なことはAIにやらせ、人間はそれを活用してより高次な作業に注力する。理想の解はその通りです。問題は、現実のビジネスがそのように回るかですね。 コンテンツでも同じ議論があります。典型はAIによるニュース等の要約サービスですね。現在、要約だけを見て元のニュースサイト等を見ない読者は3～6割とも言われ、一次メディアの収益が懸念されています。OpenAIの企業価値が120兆と報じられる一方、学習元であるWikipediaは経営危機を表明しました。 寄せ集めの情報にばかり収益が流れ、それが真の価値の源泉を圧迫するようなら、これは市場の失敗です。創造のサイクルを回す仕組みを、考え続けたいですね。

いくら正しい使い方を説いても、間違った使い方をしてくる人はいるものですが、自分はまだ「魂がこもってない！」とつき返せるものだなと思っていまのAIを見ています。それと同時に「見破れなくなる日はいつか」という危機感も持っています。 AIの科学論文執筆への活用は難しいところです。もちろん、文法・スペルチェックや表現のブラッシュアップには使いたいところ。しかし、その一方で、面倒な先行研究の執筆や参考文献のリスト作成はどうしてもAIに頼る人が出がち。ここ2,3日でもとある学会の査読で「ハルシネーションだらけですけど、これって大丈夫ですかね」ってレポートをあげたばかり。

AIによる論文量産を「悪」と決めつけるのではなく、科学の生産プロセスにおける手段として捉えるべきです。一例ですが、グーグル・ディープマインドCEOのデミス・ハサビス氏がノーベル化学賞を受賞した「アルファフォールド」のように、AIが医学研究を劇的に加速させた恩恵は絶大です 。真の課題はAIによる執筆そのものではなく、低品質な情報の大量混入で査読が回らなくることです。研究者はAIを活用して自らが価値創出できる領域に集中できる環境を整えるべきです。道具の進化を拒むのではなく、その恩恵を最大化するための評価基準の刷新こそが、科学の健全な発展には不可欠です。

この記事が誤解されないように指摘したいのですが、AIが文章を書いたり、AIが校閲したとしても、研究者が見つけた科学的な事実には直接影響ありません。 論文ではデータとして発見を提示します。文章を書くことにAIの力を借りていても、文章やデータが事実に基づいていれば、問題は少ないです。 一番の懸念は、何が事実かわからないような論文が量産され、それがオンラインに投稿されることで偽の事実が広まることです。AI時代だからこそ、研究者は信頼を大事にし、緻密なデータが価値を持ちます。 ちなみに、研究費の申請書の数もAI登場で30％増えました。論文の査読だけでなく、研究費の査読する研究者も不足しています。