JavaScriptを使用できません。

12月4日

私はカルト（統一教会）にハマった人の説得に協力した経験があります。そこで痛感したことですが、正当と不当を分かつ倫理は、世の中に必要です。さもなければ「どっちもどっち」の価値相対論になってしまう。人権（国際人権法）は正当と不当を峻別する基準として有用でオススメです。

105

12月4日

ネットのあちこちに陰謀論への「罠」が仕掛けられている。罠はたくさん仕掛けてあり入り口は広い。一方、陰謀論から脱出する道は狭い。親しい人が長い時間とエネルギーを使っても、抜けられるかどうかは怪しい。少しでも対抗できる「何か」が欲しいという話なんですよね。

【お詫び】 1番目のツイートの反響ががあまりに多く、誤解も多く、訂正が期待できないことから削除します。たぶん、前提を共有できないと必ず誤解してしまう書き方でした。ごめんなさい。（以下、経緯を少し記録しておきます）

最初に書いた文章は「"思ったのだけど、陰謀論、カルト、ネトウヨ、ミソジニーに染まった人を、優しくデプログラミング（脱洗脳）してあげるAIを作れないだろうか。これは「倫理を持つAI」という大きな挑戦になる（以下略）」ここで、脱洗脳という言葉は、選択を間違えたと判断し、削除します。

返信先:

さん

今の時点で書き直すと、こいなります。「デマやヘイトや陰謀論はどんどん拡散するが、訂正するコンテンツは広まらない。有害コンテンツを訂正して回るチャットAIを作れるのではないだろうか。例えば、ChatGPTは差別発言や暴力扇動をしない。この路線で作れるのではないか」

OpenAIが公開し話題になったチャットAI「ChatGPT」には、差別をせず常識から極端に乖離しない「まともさ」があります。そこに希望を見いだしたところがありますね。

いろいろな人から批判をいただいたのですが、例えば菊池誠さんは「「人権」を掲げている人の発想とは思えない。『時計仕掛けのオレンジ』の世界」端的に分かりやすく、「ああ、そう読めちゃうのか」と気付かされました。

時計仕掛けのオレンジは、犯罪を犯した少年に、非人道的な「洗脳」を施します。ただ、当方が考えていた脱洗脳は、そういうものではまったくなく、自分が目撃した脱カルト工作がひとつのヒントです。

脱カルトの説得とは、要するに説得です。間違っている考えに、正当な考えで説得する。間違っている事実を、確認された事実で反論する。時には相手との心理的距離をうまく詰める工夫をする。つまり世の中の普通の説得と同じことをします。

なので、私が使った「脱洗脳」という言葉の意味は、要するに「粘り強い説得」というぐらいの意味でした。これはチャットAIにとっては得意分野です。ただ、「時計仕掛けのオレンジ」を連想されたら、お終いです。そういう誤解の余地があるなら、別の言い方を考えるしかないと思いました。

一つ言えることとして、ネットに溢れている怪しい情報、差別言説、デマ、陰謀論の類いは、明確に有害です。単に放置する選択肢はありません。 AIの力でもなんでも借りて、うまく対処していく必要があります。

教えてもらった情報の中に、「暴力扇動言説をゲームで打ち消す」取り組みがあるそうです。実は、ゲーム内のコミュニーションも、ヘイトや陰謀論の拡散ルートになっているそうです。そうした取り組みも、今後はよりシリアアアスになっていくでしょう。メタバースにも同じ問題がありますね。

すでに、私たちは、結構怖い世界に生きています。 YouTubeのお薦めを見ていくだけで陰謀論にはまったり、Twitterで炎上しそうなツイートが拡散されてヘイトやハラスメントを集めたりします。「時計仕掛けのオレンジ」の洗脳にも似た罠が、すでにネットのあちこちに仕掛けてあるのです。