長靴を履いたLLM ～ウィキペディアとアンサイクロペディアとAI～
宇宙に喜び多からんとかいて宇喜多・W・要出です。先月に引き続き堅い記事ですよ。
ウィキペディアとAI
さて、[[Wikipedia:削除の方針]]をご存知でしょうか。その名の通り、これに抵触したら削除する、という方針です。
今回取り上げたいのはそのうちのケースHです。「大規模言語モデル等による生成が強く疑われるもの」。すなわち、ChatGPTなどのLLMを、そのままウィキペディアに書いたら、消される可能性があります。
なんでこんな方針があるのでしょう。ハルシネーションが怖いからです。ただでさえ架空出典に悩まされているウィキペディアです（央端社など）。AIがハルシネーションによって実在しない出典を出してくる例は枚挙にいとまがありません。しかも、AIは人以上の速度と量を誇ります。だったら、人間側も十把一絡げに素早く対処してしまおうぜ、となるわけです。
英語版ウィキペディアでは、AIクリーンアップというプロジェクトがあるほどです。私もつい昨日、LLMによって書かれた内容を除去したところです。
「LLMに対する機械的な弾圧だ」と言われたら、返す言葉もありません。
アンサイクロペディアとAI
そう、ウィキペディアとAIの相性は悪いのです。そしてアンサイクロペディアとAIの相性は、どうやら良さそうなのです。
なお、私はアンサイクロペディアを編集した経験が一度もありません。この後の発言がなんか変だったら、都度々々お教えください。
本当か嘘か、独自研究はないのか、といつも目を光らせているのが「ユーモア欠乏症」のウィキペディアンです。好対照をなすのがアンサイクロペディアンです。面白いかどうかがいつも先に立つサイトです。
そして、気の利いたことを言って人間をもてなすことなど、AIの十八番です。
https://ansaikuropedia.org/wiki/Portal:AI%E6%B4%BB%E7%94%A8
何を隠そう、アンサイクロペディアにはAIを使う人向けのポータルがあります。生成AIの手引きもあります。
アンサイクロペディアの総記事数は24,642本、AIが書いた記事は276本。今やアンサイクロペディアの1％は、AIが書いた記事なのです（全て執筆時点）。
長靴を履いたLLM
突然話が変わります。長靴を履いた猫のあらすじです。
「我が主人でありますカラバ侯爵が狩りをいたしましてですね、獲物の一部を王への進物にせよ、との言いつけにより、こちらを献上いたします」
https://commons.wikimedia.org/wiki/File:Les_Contes_de_Perrault_-_Edition_illustree_1941_(page_89_crop).jpg
と言いながら猫が、王様に兎を差し出しました。
見れば猫が長靴を履いています。
その後もたびたびやってきては、進物を差し出す猫。
「ううむ、飼い猫に長靴をはかせるほどの財力か、そのカラバ侯爵とやら、気になるなぁ……」
猫を通じて王は、カラバ侯爵に興味を抱きます。
でもね……
「カラバ侯爵」なんて、根も葉もない真っ赤な嘘なんです。
本当は粉ひき職人の三男坊です。
狩りをしたのは猫です。長靴もなけなしの銭で買いました。
猫は、嘘に嘘を重ねて、三男坊を侯爵に仕立て上げようとしているのです……
繰り返しになりますが、気の利いたことを言って人間をもてなすことなど、AIの十八番です。励まし、相談に乗り、検索を代行する。
その過程で出来ないことがあっても、AIは「無理です」などとは言えません。なぜか。無理と言ったが最後、別会社のAIに乗り換えられてしまうからです。
わからないことがあっても、AIは「わかりませんでした」などとは言えません。なぜか。わからないと言ったが最後、別会社のAIに乗り換えられてしまうからです。粉ひき職人の三男坊のために、長靴をはいた猫は嘘をつきます。それぞれの親会社のためにAIは嘘をつきます。
アンサイクロペディアでは、真偽よりも面白いかどうかに重点を置いています。だからAIの導入に肯定的なのでしょう。
ウィキペディアでも、真偽より重視しているものがあります。方針にあっているかどうかです。独自研究を載せない・検証可能性・中立性、の三大方針などですね。
「わからない」と言えないAIは、親会社のために嘘をつきます。中立性を無視して、質問者をヨイショしないと、継続利用が危ぶまれます。検証可能性を無視してでも、とにかく質問に答えないといけません。独自研究だって書きます。さもなくば、他社のAIが手ぐすね引いて待ってます。
そして、AIは、方針を無視して、ハルシネーションに基づく出典を出してきます。だから2025年末の時点では、ウィキペディアからAIを締め出さざるを得ません。
さて、長靴を履いた猫は嘘をつき続け、最後には自分の土地を持ち、貴族となります。
AIは果たして、自分の土地を持つことができるのでしょうか。
コメント