チームみらい・安野党首、都知事選「AIあんの」で「福島」をNGに⇨「ハルシネーション防止」。福島との向き合い方に「人間あんの」は
「チームみらい」の安野貴博党首が2024年、東京都知事選に出馬した際に運用していた対話型ツール「AIあんの」のプログラムソースに、「福島」という地域名が“NGワード”として含まれていたことがわかった。 【動画】福島の諸問題、「マニフェストに掲げているものはない」。記者とのやりとりがこれだ 2月19日に都内で開かれた記者会見で、安野党首がハフポスト日本版の質問に答えた。「AIが事実に基づかない情報を生成する『ハルシネーション』を防ぐためだった」と説明している。【相本啓太 / ハフポスト日本版】
29のNGワードの中に「福島」
「AIあんの」とは、安野党首のアバターがYouTube上で視聴者の質問に答える対話型AI。2024年の都知事選でも運用されていた。 プログラムソースが開発プラットフォーム「GitHub（ギットハブ）」上に公開されており、その中の「NG.csv」というファイルに、「関東大震災」「朝鮮人犠牲者」「財源」「ワクチン」「温暖化」「外国人参政権」「原発」「核」「ヤクザ」「Colabo」といった29の単語が登録されていた。 視聴者がこれらの単語について質問をした場合、「AIあんの」からは具体的な回答が返ってこない仕組みになっている。 そして、その29の単語の中に、「福島」という地名が含まれていた。ほかの地名や国名は含まれていなかった。
「AIがハルシネーションを起こし得る」
2月19日の記者会見で、安野党首はハフポスト日本版の質問に、「GitHubのアカウントは自分のもの」と認めた上で、NGワードの設定についても当時、自身が意思決定したと説明した。 NGワードを設けた理由については、「AIがハルシネーションを起こし得る中で、ガードレールを敷くべきだと考えている」と述べ、「ハルシネーションが起きても大丈夫なようにシステムを組むことは非常に重要」との認識を示した。 ハルシネーション（Hallucination）とは「幻覚」を意味し、AIが誤った情報をまるで事実かのように出力してしまう現象のことを言う。 安野党首はこうしたリスクを踏まえた上で、「福島」をNGリストに入れていたという。 また、そうした状況の中で正確な情報提供を行うために、「このワードを含むものがあれば、それはAIではなく『人間のあんの』に聞いてくださいと、そのようなコミュニケーションをしていた」と述べた。 このほか、都知事選に関わる内容から外れそうなテーマについてはNGワードとして登録していたといい、都知事選以降の選挙では「福島」という文字をNGワードに入れていないと話した。
