「生成AIは合法」。そうかもしれない。ではそれは何を意味するのか？

普通人は「合法か違法か」を倫理基準にしてない

「ダウンロード違法化」まで、違法（アップロードされたものの）ダウンロードは合法でした。しかしWinnyでそれをしたことが発覚した人々は炎上して社会的に殺されました。ついでに言うと「ダウンロード違法化」後も当初はマンガなどの違法ダウンロードは合法でした。
一方で（引用の要件を満たさず）マンガの一コマだけ張り付けてツイートしたり、あまつさえセリフの改変まで行なうのは完全に著作権法違法ですが、そうした行為やアニメキャプチャアイコンは広く使われています。

もちろんマンガの一コマだけ張り付けられるより著作物を丸ごとダウンロードされる方が著作者が受けるダメージは遥かに大きいし、アメリカのフェアユース規定では著作者の不利益にならない等の条件を満たせば無許可で使ってよく、実際アメリカ人も映画の一場面を張り付けたりするのでこちらの倫理判断の方が正しいとさえ言えます。しかし日本の法律を基準にするなら「ダウンロード違法化」前の「合法ダウンロード」は炎上せずアニメアイコンは炎上するはずです。

他にも「○○事件の容疑者が懲役×年」「心神喪失で責任能力が無いから無罪」などの判決が下った時「この裁判官の法解釈は間違っている。何故なら～」というような形で批判されることはまず無く、「こんな残虐行為を犯したのに刑が軽すぎる！」という形で批判が行なわれるのが普通です。その是非はいったん置いとくとして、「は？ 法律で心神喪失者の罪は問えないと決まってるのに何言ってんの？」とか言う人はまずいません。

以上のように法律を倫理判断の基準に用いてる人はまずいません。「ヤミ米を買うことは法律で禁止されてるから悪法だけど食べない」と言って餓死できる行動原理を持ってない人が「合法だからOK/違法だからダメ」と言うのは論理的一貫性がありません。

そもそもさっきからいちいち「ダウンロード違法化」前のダウンロードと書かなければいけないのは法律は人間の倫理判断（等）で変化し、違法（アップロードされたものの）ダウンロードは現在では合法ではなく本当に違法になったからです。「違法行為はほとんどの場合間違っている」のは確かですが法の原理ならまだしも「合法か/違法か」は倫理判断と本質的に関係ありません。