以前、敢えて余り知られていない文学や映画について(しかしいずれに明るい人なら常識に属する事柄)Open AIに質問したことがありますが、デタラメだらけでした。
おそらくその後はそんなことも「学習」してもっと賢くなっているのでしょうが、問題はGo 5さんが指摘されている通り、「知ってる人が少なければ否定される(≒間違った情報が流布される)」と言うことなのです。
少なくとも現行の生成AIは、知名度が比較的高い人の人気投票レベルのものに過ぎません。人気投票ですから、それが事実として正しい保証はありませんし、知名度が高い人に対してしか有効ではないのです。
Quote
Go 5
@GoGoGo5678KA
Replying to @IWAI_Kiyotaka
早速、Grokで事実確認してる…。
みんなが知らないことはAIも答えられないってだけなのに。
正しい情報でも、知っている人が少なければ否定される。
そこがAIの恐ろしさ。