最初に言っておきますが、以下に記述するのは私個人の考えです。が、共鳴してくれる人がいると嬉しいと思います。

（音楽と映像についてはまだ詳しくないので言及できません）画像とテキスト生成AIに対して思う。何を勝手に「他人がアップロードした記事や情報や画像」をインフラ扱いしてんの。それは資源じゃなくてそれぞれの「財産」なんですけど!!!!!
ってことで、更にそれを取り込んでニューラルネットワークなどで良い感じにまぜまぜして出力してそれを公に出すのほんとに腹立ってしゃーないし「画像を取り込んで画像を吐き出す」は、もう完全にライン超えで、ふざけんなよと思っているわけですけども。

そんな私は最近会社でChatGPTの研修を受けさせられてるわけですが（研修の中の「ロジカルシンキング」の部分は非常に興味深く受けさせてもらいましたけども。）
基本的にChatGPTについても過去のWEB財産を元に出力する（ChatGPTは2021年9月までのネット上のデータ（プロ・アマ問わない記事など）をデータセットとしており最新情報については疎い）ということに変わりはないんですが、できること広すぎて「使っても誰の権利も侵害しない」「これはグレーゾーンじゃないか？（元記事にアクセスできるならまだ対応のしようもありそうだけど）」「アウトーーーー！！！！」という風に使い方が分けられるんじゃないかと思いまして。

最近の私の考えを共有させていただきます。

まずは「使っても誰の権利も侵害しない」もの

これは、行やコードの重複を除くなどの正解がある加工、表記ゆれや誤字脱字対応などの校正、記事や論文の「アウトライン（雛形って言ってもいいかも）」作成、ビジネスメール、報告書など定型文への流し込み（言いたいことは自分で考える）。この辺については、「誰かに直接評価されるものを出力してるわけではない」し「正解がほぼ存在する」「使っても誰の権利も侵害しない」という観点から使用しても問題ないと思いました。（「効率化を図る」といって違和感がない）（ただ、これも出力結果は精査しないといけない。間違った結果出してることあるから。）
あと、代替手段が存在することもあるし、積極的に使いたいかっていうと……

次に「グレーゾーンじゃないか？」と思うもの。

アイデア出し、幅出し用途がこれにあたると思っております。前述した通りChatGPTは過去のWEB上のデータをデータセットとして持っており、それらをまぜまぜして文を出力してるわけですが、元データを参照できません。
てことはネット上に上がっている「制作者本人がいたく思い入れのある過去事例」なども出力されることがあるわけです。
確かにアイデアに著作権などはありません。
ですが人間は感情の生き物です。「思い入れのある事例を勝手に使われる」というのは制作者側としては腹立たしいという感情が生まれても不思議ではありません。もし、元データにアクセスできるなら本人に許可や思い入れを聞くこともできましょうが、アクセスできないのでそれも実質不可能なわけです。
よって、これも正直微妙。倫理的にいえばアウトよりだと思います。

最後に「アウトーーー！！！！」と思うもの。

私はこの目的のためには絶対に使いたくないし使えないようにしてほしい。規制すべきだと思う。
論文、小説、お話、詩や俳句、短歌などの文学作品など「それ自体が評価されるもの」を出力してはならないと思います。
文学作品についてはそもそもAIに書かせてる時点で「やりたくないこと」になってるので、そんなんせんどってください。
やりたいことやってください。
文学作品は作りたい人が作るもんです。
まずもって過去のWEB上のテキストのツギハギキメラになるのは仕組み的にどうしてもそうなることと、そんなんを人間がやれば普通に干されます。普通に怒られます。なので使ったらだめ。
で、論文。これも基本的に「書きたくないなら書きなさんな。」（学生さんだと強制って場合も多いでしょうが。）です。
で、AIとハルシネーションは切っても切り離せない関係なので、長くなればなるほど嘘が混じる。混じるどころか完全に嘘な時もある。でChatGPTの出力物って「なんとなく合ってそうなものが出る」んですが、これ、人間のチェックが一番甘くなるパターンなんです。結果、引用元が存在しない引用が発生したり、間違った内容の論文になったりということも起こり得ます。さらに言うなら、論文は「研究成果の発表手段」なので、人間が自分の言葉で書かねば存在する意味がない代物なんです。
よって論文についても使用は禁止すべきと思いますね。

個人的見解としては、「生成」分野で進化する必要あるんかAI

と、ここまで書いてきました。
正直「文章が欲しいなら自分で書く努力をするか人に依頼しろ」の一言に尽きるなーと。
「AIに書かせよう」なんてものを選択肢に入れるなと。
AI生成物を使うということは現状、過去の誰かの功績にタダ乗りする行為であると。私は思っています。
使いたくなーい！