もしも、生成AIがポケモンのそっくり絵を出力して、それをユーザーが「オリジナルの絵だ」と勘違いして、世間に「有名な何とか博覧会のイメージキャラに応募しました採用されましたイエーイｗ」とやらかした時が一番ヤバいと思うのです。

その時に、「生成AIで作った」と自己申告していれば、「生成AI企業」にその製造責任が問われますからね。
なぜか？「このポケモンモドキの絵の背中に４本の線の模様が入ってますね？これは何を発想の元にしたのですか？」と問われたとき、
生成AIのユーザーは「わかりません。書いたのは生成AIソフトです」と答えるでしょう。
しかし、生成AIソフトの開発元は「知っています。ポケモンのタグの一つの絵の一部分です」と正直に答えざるを得ない。

じゃあ、罪は生成AIソフトの開発元の企業がかぶって、賠償金を支払うのか？
おそらくそうはならない。
おそらく、生成AI企業は「その絵を公表したのは規約違反です。ルール違反したのはユーザーです」とか「既存の著作物に似てるかどうかを判断するのはユーザーです」というところに落とし込むと思う。

よく生成AIユーザーが「既存の商業製品に似てるかどうかを立証するのは訴える側だｗ！」と言うけれど、それはもう「生成AIのしくみで絵にタグ付け」されてる次点で「バレるまでの時間稼ぎ」でしかない。

生成AIユーザーは「生成AIで作りました」と自己申告しておいて、いざ訴訟トラブルになった時に「生成AI企業を訴訟に巻き込む」のが、そういう流れになるんじゃないかなと思う。