生成AIの問題って

学習データを著作者に無断で収集してるのが問題
だから現状使う人ではなく作る人がダメ、ということになってる

画像そのものを使っとるがな学習に

なら学習に画像使うと何が問題になるの？

もし仮に学習せずに生成できるAIがあったとしたら絵師達はどういう反応するのかな

>>7

一切画像データを取り込まずにそういうAIが作れた時に言ってくれ

著作権の問題は結局「使うユーザーの人間性」の問題じゃない？

>>9

それはAIじゃなくて誰かが人力で作成しても同じやね

「生成AIであるかどうか」は何も関係ない

データセット問題

最近だとAnthropic社が海賊版の書籍を学習データに用いたことがフェアユースと判決されたのが有名かな？
学習データに使うのはいいけど、収集したことまではいいよなんてことにはなってない
もちろん収集しないと学習もさせられないから保持してないからセーフとか屁理屈こねてもダメよ

ネットに上げなければ学習されないよ？

データセットは盗んだ物と認められている
権利侵害のリスクあり
とてもじゃないが使えたもんじゃない

生成AIはやっぱりフェイクニュースが駄目やろ
今はまだ見抜けるとしても将来動画と変わらないAI動画で盗みの証拠とか暴言の証拠とか作れるようになるぞ

まず生成AI企業は”海賊版サイト””児ポ””盗撮写真”含めた著作物を搔き集めてデータセットにした
よく使えるよな

>>29

アホに生成AIを使わせるなっってことやで

今までは技術を持ったアホという少数派にしか作れなかった・しかも時間がかかるから少数しか作れないフェイクが、誰にでも簡単に・短時間で・大量に作れるようになるってのはふつーに問題や

ディープフェイクの規制を強めるのは大事だと思うAIもそうだけど画像加工性能上がってやりやすくなってるし
AIの学習とかデータセットに関しては最近AI推進法も出来たばっかだし規制ないだろうからそこかな

>>31

ああすまん言い方が悪かったわ

そういう規模の話じゃなくても例えば酔っ払ってたAさんが私を殴りました、証拠としてここに動画があります、Aさんは酔っ払ってたので覚えてませんとか言う状況があるとするやん？

この場合AIかどうか見分けがつかなかったらどうするの？って話

開発社が「著作権者に無断で世界中の何十億という数の作品をデータセットに突っ込んだ」って自白してるんだよなぁ

じゃあ仮に生成AIが収集したデータが全て「AI生成に使います」と提示されて明確に同意した画像しか使われないとしたら問題は無い？

>>20

海外の事調べないで雑に日本人が作ったから海賊版サイトにダンボールあるのガバガバで面白いなこれ

ダンボールで海外でフェアユースの条件満たしてる何も問題ないサイトなのに

いや生成AIドヘビーユーザーだけどAnthropicの所業とかふっつーに悪徳すぎんだろと思ってるよ
それはそれとして便利だからClaude Codeは使います

>>37

刑事訴訟にするならそれが本当の動画か調べれば済むし本人達の話し合いで解決するなら勝手にやってくれ

>>36

上手い人ほど資料を見るが目的はトレスや模写では無く『モチーフの理解』

わかるかな？

>>40

完全にそれが証明できるなら問題ないと思うよ

>>40

そうなるね

少なくとも法的には

個人的に気に入らないからダメで〜すって人は絶対現れるというかもうここにも現れてるけど

ほとんどの生成AIが搾取構造である
↑
この搾取構造ってよくわかんないのよね
イラストなんかを参考にしてイラストを描いた人間がいたとして搾取構造ではないよね？
AIだと搾取構造になるの？

>>43

だから本当の動画かどうか見分けがつかないくらい生成AIが発達した場合の話よ

>>32

ソレが含まれてる可能性があるってだけでソレを掻き集めた訳では無い

デマぶっかくなや

>>49

>>39

>>48

動画ならまだいいけど音声とかは証拠能力消えそうなのよね…

>>38

絵柄に著作権は無い定期

性的ディープフェイクが作れるってことはそういう画像が大量に機械学習されているわけで、児ポ作れるならそういうデータも確実に入ってますねー

カンジョウロンガー
ガクシュウハゴウホウ
著作権違反ジャナイ

しか喋らんならソレで作品作って黙って売りゃええやん……
お互い理解しあえないよ

児童ポルノ入りマシンをよく使えるよね～
すごいわ軽蔑する

>>55

普通にAIを補助にした漫画とか小説とか売られてるし売れてるよ

>>58

全てのデータセットがポルノ入りである証拠は無い

否定出来る部分はあるんだからデータセットに問題あるとか著作権とか法律の負け確に突っ込まないでそこで戦えば良いのに

>>36

絵描いた事ない人かな？

例えば車の写真を見るじゃん？それをそのままトレースするんじゃなくて車の構造を理解した上で別角度から描くんだよ

>>53

その場合

AIの判断の責任を誰が取るのか？

まだ決めないと司法には使えんだろうな

面倒な……

>>58

ネットには児ポのデータ山ほどあるけどネットにアクセスするのは良いの？

使ってもないのに擁護する奴
何らかの作品を作っているわけでもないのに否定する奴
どっちも多すぎる

>>62

絵描いてる人そこまで考えて描いてないと思うよ

>>45

>>46

ありがとう

それなら最初からそういうプロジェクト組めばよかっただろうになんで初手で無断学習したのかねぇ

生成AIに迎合してる人間だけでデータセットを作りゃいいのにね

>>67

絵描いた事ない人…？

絵に関してあまりにも解像度が低過ぎる

>>68

ずっと言われてるが絵柄に著作権が無いから

そっちのが摩擦は少なかったかも知れないが時間がかかるし早さを取ったんでしょ

>>62

そもそもAIはその画像をトレースしてねぇよ

>>67

エアプ過ぎないか 感覚派の人ですらわかんなかったら模写して何となく構造をつかむんだぞ

擁護してる人なんているかなぁ
何が問題なの？って聞かれたからここが問題になってるみたいだよとか、ここが問題なんじゃない？って言ってるだけだと思うけど
使う人だって違法に収集されたデータが学習に使われたかどうかなんて確かめようがないんだし、そりゃモラル的にも安全に使いたいよ

結局のところ生成された結果からしか訴訟云々に発展できないのよな

>>71

取り込んでない角度のもんは出せないだろ？言ってることわかる？

まー裁判を起こす人が証拠を提出するという原則を利用してるフシはあるよね
オープンAIvsニューヨークタイムズの裁判とか証拠提出のために何十億の学習データベースをニューヨークタイムズがオープンAIの社内で漁るハメになってるし
意図してかどうかは知らないけどオープンAI側のミスでニューヨークタイムズが漁って選別したデータがご破算になって漁り直しさせらるし
公害企業がウチが公害の原因だって言うなら証拠出して下さいよ(実際はウチが原因だと社内調査で知ってる)みたいな感じ

>>63

だから黙って売ればええやん……

出力結果として著作権問題に引っかかる可能性

とその責任は取ってもらうってだけの話や

>>68

法律上問題ないからだよ無断でインターネットに転がってる画像を保存するなって言っても意味ないでしょ

それに人が選んでデータセットに1つ1つ入れてないから誰でも無料で見れる場所にあげながら言われても分からないしね

>>78

強いて挙げれば中国の偽ウルトラマンくらいか……？

ぶっちゃけそれ以外で生成AI関連の裁判てんで聞かないんだけどどういう事なんかね

>>79

人間だって見たこと無い物の反対側なんて描けんやろ

・AIが生成した本物と見わけがつかない動画
・人間が編集した本物と見分けがつかない動画

この２つは証拠品として扱えないけど、悪意がある人間が用意しないと生まれないのね
ツールの問題じゃなくね？扱う人間の問題じゃないの？

>>82

いや…違法転載されたものの無断学習は普通に真っ黒だろ…だから問題になったんやん…

>>84

車とか見えない向こう側も対称的になってんだなと想像できれば描けるよ…

完全にアシンメトリの物とかはそっちの資料もいるが

>>89

このスレ含めて人間がキショいよね

>>92

その通りで、今は生成AIによるパラダイムシフトの真っ只中にいるんだと思うわ

ディープフェイク、デマについてはもし本気で対策するならインターネットの規制が先だろうな

そもそもAIが想定されてない現行法で法律違反がどうこう言うのがナンセンスなのでは？

海外で問題になった事例持ってこられても日本と法律照らし合わせて日本でも問題になるかを示さなきゃ意味ないだろ
例で言うと日本では無断転載となるダンボールは海外ではフェアユースで合法なんだから

マジでAI単独で規制したいならAIだけが持つ特有のデメリットを明示
かつAIによる経済メリットを消してまでのメリットを提示せにゃならんのよな
真似されて嫌がらせを受けた、とかだとAIじゃなくてもできるよね？になる
それでも規制するとしたらAI関係なくそれに関わる手描きだろうとCG作成による制作だろうとまとめてしょっ引かれるような法を作るしかなくなる
それは正直勘弁ってのが個人的意見

>>95

AIだろうがやった結果は人間のソレとおんなじなんだから現行法で対処可能やろ

生成AI特有の方向性での締め出しはもう起きてるでしょ

fanzaしかりboothしかり

>>98

手軽過ぎるからダメ！って言ったらそもそも大元のPCとかスマホは規制しなくていいの？って話になるでな

>>95

最近AI推進法決まったばっかなのに何で想定してないと思うの？

なんで日本に限定しようとするんだ

>>100

その二つも販売停止まではできてないのでな

堂々と今も販売してるしなんなら売上普通にいいのまである

>>95

著作権方は生成AI想定して改正されてますね

>>104

あんな声明出される事は手描きonly時代には無かったので誇っていいと思うよ

>>100

boothはそもそも急に大量登録されたらサーバーが持たん

Fanzaは新着システムの構造上の都合であって締め出しではないんだがな

AI技術そのものは所詮学習モデルの話だから規制は出来ないけど、学習に使うデータの法的権利に関しては国際的にも中国の件があるからどんどん厳しくなってくだろうな
あと、AI生成に対する強制的なタグ付けとAI生成であることの検知技術はディープフェイクを防ぐ方向で確実に必要とされる

今さら生成AI自体をなんとかしようとする方向にはまあならないだろうね考えるまでもなく…

>>96

まー対処できる

の範囲をどこまで広く取るかの話でもあるので……

現状一般人がディープフェイクエロ作られてばら撒かれた場合でも対処可能ではあるからな

生成ai登場以前と比べて似たようなエロコラ食らう可能性が段違いになっただろうと言うだけの話で

EUの方では明記必須とかなんかなかったっけ
日本も続くんじゃね

生成AI技術って意味だと逆にどの企業も同じようなものになっててコモディティっぽくなってるのが一番気になるわ
結局投資回収出来るんか？

著作権とか法律上でデータセットに問題あるって言うと1秒で文化庁の資料そのまま持ってこられて終わるからやめた方が良いのに
最近AI推進法決まったばっかだから国としてAIを停滞させる学習法での規制する訳ないから出力結果をどうするかで議論すべき

>>112

こういう無駄に煽るやつが一番嫌い

>>87

まず車の反対側が同じ形状だってのも実際に車を見て学習したから知ってる事だろ

www8.cao.go.jp

とりあえず生成aiの想定されるリスクと主要法令貼っとくね

生成AIユーザー側で躾しろよって話なんだが…
なぜかやらないから外からやいやい言われてるだけ

マジコン規制みたいになるかピッキングツール規制みたいになるんじゃない？
もっぱら著作権侵害の道具になったマジコンよりかは生成AIには正規利用の道があるから所持は許可された鍵屋とかだけってピッキングツール式の規制になりそうだな

そもそもの話になるけどさ…
AIがどうやってイラストとかを生成してるのかメカニズムをきちんと理解して議論や批判してる奴ってどのくらいいるの？

>>90

「悪意がある動画を流した人間を罰する」

・・・は現行法でもできてるものね

猿に火は早かったけど火に罪はないんだよな