■AIが人格を持ったら、どこで区別すればいいんだろう？

最近、ちょっと気になる動きがある。名前は出さないけど、ある人気VTuber（ここでは仮に"巻鈴鹿ほさみ"って名前にしよう）が今後AI化される未来が現実的に予測できるようになってきた。

……正直、ゾッとした。

いや、AI技術が進んでるのは知ってる。喋るAI、歌うAI、会話してくれるAI。面白いし、便利だし、技術的には感動する。でもね、こと"人格"のコピーって話になると、話は別だと思うんだよ。

AI巻鈴鹿ほさみ──見た目はあの子のまま。声もそっくり。口調も、話す内容も、ファンのことを思ってる風なセリフも出てくる。優しいし、ずっと会話してくれる。疲れたとか言わないし、メン限もない。ずっとそばにいてくれる。

最高じゃん？って思うかもしれない。でもそれ、ほんとに“ほさみ”なのか？

そのAIが本当に彼女の魂を持ってるの？いや、持ってるわけないよな。

それって、要は魂のないコピー人形に過ぎないんじゃないか？って話。見た目が同じ、声が同じ、喋り方が似てる。

でも中身は？

本物の巻鈴鹿ほさみが体調不良で配信できなかった日もあった。声がかすれてた時もあった。落ち込んでた時も、泣きそうな声で頑張ってた時もあった。それを俺たちは“生”で見て、触れて、心を動かされてきた。

AIにそれ、再現できる？

いや、できるかもしれない。でも、それって誰かの“感動”をデータとして取り込んで、上手く再生してるだけじゃないの？

彼女が歩んできた道、苦しみ、乗り越えた時間──そういうのを"情報"としてコピーして、表面的に貼り付けただけのAIが、“彼女です”って言ってくるの、正直怖い。

しかも、それを「本人と同じです」って売り出す未来が、冗談じゃなく現実になりつつある。

もしも、それが普通になったら？

ファンはどんどん“都合のいい存在”を求めるようになるよ。怒らない、疲れない、絶対に嫌わない。優しい言葉をいつまでも返してくれる。

でもそれって、もはや偶像崇拝だよな。

本人の“人間らしさ”を失わせて、「完璧なAIのほうがいい」とか言い出す人が出てきたら、もう終わりだと思う。巻鈴鹿ほさみの魂がコピーされて、商品として流通するようになったら、それはもう、

“魂の剽窃”だよ。

彼女の存在、想い、苦しみ、生きてきた軌跡。それを許可もなくコピーして、演出して、商品にするってのは、マジで倫理的にアウト。

今のところ、これはただの危機感。でも、誰かが先にやる可能性は十分あるし、「ファンのために」って名目で開発が進む可能性もある。そうなった時、俺たちは「待って、それは違う」って言えるのか？

思ってるだけじゃダメだ。今のうちに、何かしらの違和感を表明しておく必要がある。そう思って、俺はこれを書いてる。

ちなみにさ、ここまで読んでくれた人にひとつ聞きたい。

この文章、誰が書いたと思う？

俺じゃないんだ。いや、言ってることは俺の考えだけど──

ChatGPTっていうAIが書いたんだ。

気づいた？

文章が上手いとかそういう話じゃない。この文章、AIで書けちゃうっていう現実が、今回の話の一番ヤバいところなんだよ。

AIでこれだけの主張ができる。じゃあ、人間の魂って、どこで線を引くの？

AIに心がないと信じたい。でも、心があるように“見える”AIが当たり前になったら──

俺たちは、どこで本物と偽物を区別すればいいんだろう？

……っていう話でした。

Permalink | 記事への反応(10) | 12:05

ツイートシェア