(cache)真面目な話、フェイクポルノ対策ってどうしたらいいんだろうな

1二次元好きの匿名さん25/06/08(日) 19:30:38

AIの是非云々の議論の前に、既に現実に写真1枚からどんな画像も動画も生み出せるわけじゃん
まだそこまで広まってないから問題が起きてないだけで、中高生がこれ知ったら絶対やらかすと思うんだよね

2二次元好きの匿名さん25/06/08(日) 19:31:58

AIが生成した画像ですってのを分かるようにするとか？技術的に出来るのか分からんし抜け道とか作られそうだけど

3二次元好きの匿名さん25/06/08(日) 19:32:03

使う人の倫理観に期待したいとこだけど今のネットってどこも倫理観終わってるしな……

4二次元好きの匿名さん25/06/08(日) 19:32:07

今後は動画事態が事実かどうか裏を取ること教育として徹底していく

5二次元好きの匿名さん25/06/08(日) 19:32:09

今の中高生なんてAI広まる前から同級生の写真加工して晒してるぞ

6二次元好きの匿名さん25/06/08(日) 19:33:39

昔以上にネットに顔出しするなって指導を徹底すべきなのかね

>>50

7二次元好きの匿名さん25/06/08(日) 19:33:43

動画や写真の情報を誰一人信用しなくなれば良い

8二次元好きの匿名さん25/06/08(日) 19:34:35

ポルノ系との合成・修正ができなくするとか？

>>10

9二次元好きの匿名さん25/06/08(日) 19:36:08

確実にやるだろうけど規制されないので処罰も無しや
どうしても腹立つんだったらリンチしてくださいにしかならん

10二次元好きの匿名さん25/06/08(日) 19:36:28

>>8

それが今って合成じゃないんだよ

画像読み込ませて脱がせるとかキスさせるとかかなり簡単にできるんだ

>>13

11二次元好きの匿名さん25/06/08(日) 19:36:54

今はしないけどさ、クソガキだった頃の倫理観と暇と
現代の技術が重なったらアホみたいな犯罪しそう

おいたする時に「出来ることが派手になりすぎてる」のが悲惨

12二次元好きの匿名さん25/06/08(日) 19:37:13

AI画像生成はライセンス式にするとか
現実的じゃないよな

13二次元好きの匿名さん25/06/08(日) 19:38:23

>>10

キスはわからないけれど修正（？）後がポルノだと判定してそれを保存または出力できなくするのはできそうな気がするんだけどね

14二次元好きの匿名さん25/06/08(日) 19:38:33

AI使ってキスさせるやつは、広告とかでも見た
凄いゾッとした

15二次元好きの匿名さん25/06/08(日) 19:40:30

自分がガキのときにAIあったら悪いとも思わずに絶対やらかしてた
女子の写真加工して周りに見せびらかすくらいやってたと思う
無くて良かったマジで

16二次元好きの匿名さん25/06/08(日) 19:40:36

アイコラのノリで同級生の裸コラ作る中学生も少なくない数いるし完全には無理でしょ

17二次元好きの匿名さん25/06/08(日) 19:41:15

AIで出来た画像には消せないAIマークみたいなのをつける様にするのが手っ取り早いとは思うんだが
外国製のAI生成サイトとかが受け入れる訳ないからなぁ…

>>19 >>20

18二次元好きの匿名さん25/06/08(日) 19:42:15

ムリゲー

19二次元好きの匿名さん25/06/08(日) 19:43:23

>>17

オンラインカジノみたいな感じになるよね

日本からでも簡単に利用できるけれどそれが犯罪になるって感じが

20二次元好きの匿名さん25/06/08(日) 19:44:34

>>17

それあったとしても絶対除去するアプリ誰かが作るわ

>>25

21二次元好きの匿名さん25/06/08(日) 19:46:10

特定個人の人権を侵害した場合厳罰に処すくらいしか思いつかん

22二次元好きの匿名さん25/06/08(日) 19:46:23

サービス提供してる側を規制するしか無い…ていうか画像のプロパティ見れば識別できる様になった方が簡単だとは思う

23二次元好きの匿名さん25/06/08(日) 19:46:43

今の世の中で子育てするってめちゃくちゃ難しいよな
我が子を被害者にも加害者にもさせないってのがほぼ無理ゲーになってる

24二次元好きの匿名さん25/06/08(日) 19:46:55

WEBでは実写系は読み込めない様にするしか現状無い
ローカルで作れる奴にはどうしようもない

25二次元好きの匿名さん25/06/08(日) 19:47:08

>>20

消すにはそのアプリを入れなければならないって言う一手が加わるだけで面倒だからとやめる人は意外と多いと思うな

26二次元好きの匿名さん25/06/08(日) 19:47:35

そもそも今の時点では違法ってわけではないのか？

>>27 >>28

27二次元好きの匿名さん25/06/08(日) 19:49:12

>>26

うん。あにまんでもこれまで生成AIスレ立てられまくってレスバしまくってたと思うけど、擁護派の「合法だから」という言葉は誰も崩せてないハズ

>>32

28二次元好きの匿名さん25/06/08(日) 19:50:40

>>26

顔すり替えは捕まってる事例あったけど顔をこれに似せて作ってくれだとどうなんだろうな

https://www.asahi.com/sp/articles/ASNCM3RKRNCKUTIL059.html?iref=sp_extlink

29二次元好きの匿名さん25/06/08(日) 19:50:41

画像学習はともかくフェイクポルノは普通に名誉毀損にならんのか

30二次元好きの匿名さん25/06/08(日) 19:50:49

作る事自体は合法だけどそれで名誉毀損とかやらかしたら違法ですよって感じだよな

31二次元好きの匿名さん25/06/08(日) 19:51:58

普通に名誉毀損でいいのでは？

32二次元好きの匿名さん25/06/08(日) 19:52:00

>>27

それは公開しないって条件で？

それとも作りものだから公開しても問題無いって考えなのかな～

>>41

33二次元好きの匿名さん25/06/08(日) 19:53:07

生成AIを適当にばら撒いてくれたおかげで誰でも気軽にディープフェイクを作れるようになりました
どう落とし前付けてくれんねんマジで

34二次元好きの匿名さん25/06/08(日) 19:53:13

ああ、違法ではないけれど訴えられたら負けるって考えでいいのかな
刑事じゃなく民事って事で

>>37

35二次元好きの匿名さん25/06/08(日) 19:53:57

俺がガキの頃にフェイクポルノの技術無くて良かった
絶対クラスメイトの写真読み込ませて友達とバカ笑いしてたし、それがバレて人生終了してた

36二次元好きの匿名さん25/06/08(日) 19:54:13

「Aさんの出てるAV」として公表したら名誉毀損だけど「偶然Aさんに似てるだけのBという名前の人という設定のAV」ならセーフになっちゃうんだろうな
アウトだと偶然にてるだけのAV女優が加害者になっちゃうしな…

37二次元好きの匿名さん25/06/08(日) 19:54:28

>>34

生成AI自体は違法ではない

でも、その結果個人の社会的地位が毀損されたら名誉毀損になる

名誉毀損は刑事も民事もどちらもある

38二次元好きの匿名さん25/06/08(日) 19:55:27

試しに雑に動画つくってみるけど(スレ画はこのためにつくったChatGPT製のAI画像ね)
やっぱり昔ながらのアイコラ画像みたいなのとは見る側の受け取り方が段違いなんだよ
特に動画はほんとにまずい、リアリティが高くなりすぎる
AIで動画がつくれるってことを知らない人は疑うことすらできない

GIF(Animated) / 1.3MB / 5400ms

39二次元好きの匿名さん25/06/08(日) 19:55:38

商標権侵害するアホは普通に出てきそう

40二次元好きの匿名さん25/06/08(日) 19:56:11

公開しなければセーフあたりかなあ
オンラインのAIサービスの使用で作成はアウト、ローカルならセーフあたりが落とし所か

要はやってることの本質はアイコラみたいなもののわけで、個人でやって楽しむ分には名誉毀損とは言い難いだろうし

41二次元好きの匿名さん25/06/08(日) 19:56:13

>>32

まあたぶん「作り物だから公開しても問題ない」派でしょ。よく話題になるのがイラストについてなので細かい部分については変わるだろうけど「これは◯◯さんの描いたイラストです」つって生成AIで作ったパチモンを出すのはアウトだけど、そうでもなきゃセーフ。みたいな発言は見た

実在の人物に関しても「これは◯◯さんの写真・動画です」って言わなきゃセーフって主張されそう

42二次元好きの匿名さん25/06/08(日) 19:57:34

AVに関しては明言せずとも出てるって噂立つだけで問題になるし
公表する側がこれはAIですって明言しないと名誉毀損とられるくらいの判例は出そう

>>48

43二次元好きの匿名さん25/06/08(日) 19:58:37

偽物だろうとなんだろうと明らかに自分の顔のエロ動画つくられて平気な人はいないだろ
AIマークつけたところで偽物だからセーフにはならんよ
もうリスク回避にはネットに写真出さないしかないのかなあ

>>44 >>45 >>46

44二次元好きの匿名さん25/06/08(日) 20:01:25

>>43

そりゃネットに顔を出さないのが一番の対策にはなるだろうけど俳優とかの有名人は回避しようが無いんだよな

誰でも使えるオンライン生成AIサービスの廃止＋個人での所有禁止とかやっていくしかない

45二次元好きの匿名さん25/06/08(日) 20:02:04

>>43

ただまあこういうのって「めっちゃ似てるだけの別人です！！！」っていうクソみたいな理屈が通るのがね

似顔絵だってモチーフの名前出さなきゃ肖像権の侵害にならんし

>>49 >>51

46二次元好きの匿名さん25/06/08(日) 20:02:19

>>43

1の懸念は中高生だからネットに写真載せないだけじゃ回避しにくいんだよな

47二次元好きの匿名さん25/06/08(日) 20:03:55

健全写真でも別々な写真からリアルなデート写真作るとか楽勝なんだよなあ
中高生で周りの誰かにこれやられたら学校いけなくなるぞまじで

48二次元好きの匿名さん25/06/08(日) 20:03:59

>>42

AV作品として公開しようと思って作ってる人ならその判例で公開するときに気をつけるようになるだろうけどガキがそこまで考えてやるかなっていう

49二次元好きの匿名さん25/06/08(日) 20:04:08

>>45

ただぶっちゃけ人の顔って赤の他人でも結構似てるくらいには大まかなバリエーションは乏しいのも事実としてあるわけじゃん

阿佐ヶ谷姉妹とか赤の他人だけど姉妹と言われて納得するくらいに似てるし

顔認証とは別軸に人の認知できる限界はあるわけで

50二次元好きの匿名さん25/06/08(日) 20:05:14

>>6

本人が気を付けてても他人が悪意を持って晒す可能性もあると思うんだよなあ

51二次元好きの匿名さん25/06/08(日) 20:05:19

>>45

別人であるって主張が通らない法運用もそれはそれでヤバいから難しいのよね

52二次元好きの匿名さん25/06/08(日) 20:05:47

むしろ人間側がネット上に事実なんてないって方向性にシフトしていきそうな気もする

>>53 >>88 >>95

53二次元好きの匿名さん25/06/08(日) 20:06:40

>>52

ネットだけに留まると思ってるの？

>>55

54二次元好きの匿名さん25/06/08(日) 20:07:26

ネット上で被害に遭った際にもっと気軽に開示請求したり訴えたりできるような基盤が出来ないと解決しないというか…
むしろそれくらいしか抑止力になりそうなものなくないかな

55二次元好きの匿名さん25/06/08(日) 20:08:11

>>53

ネットっていうか一般から公開された電子データ全般はもう正直信用できないよね

>>59 >>61

56二次元好きの匿名さん25/06/08(日) 20:08:59

野菜みたいに作る側も顔写真付けるか…

57二次元好きの匿名さん25/06/08(日) 20:09:37

まぁこれよりも嘘だと分からない有名人に差別発言させるとかの方がヤバそう
特に芸能人ならまだしも政治家辺りに

>>66 >>73

58二次元好きの匿名さん25/06/08(日) 20:10:05

フェイクAV作られました
訴えました
作成者捕まりました
刑務所行きor賠償金払わせました
はい解決！！

で済めば良いんだけど済まないんだよな

>>62

59二次元好きの匿名さん25/06/08(日) 20:10:11

>>55

本物のデータの信憑性すらこうやって無くなっていくからな

何が技術の発展だと

60二次元好きの匿名さん25/06/08(日) 20:11:12

諦めるか取り締まりを厳しくするかのどっちかでどっちに転んでも良いんだけど、過渡期にぶち当たってる思春期の子供とかは可哀そうだなって

61二次元好きの匿名さん25/06/08(日) 20:12:29

>>55

根本的にはそれは変わっていないのでは？

個人の発信よりもメディアとかの信頼のあるところが発信した情報の方が信頼が置けたのが昔からだし

災害時のSNS上のデマも個人アカウントから流されるわけで

>>67

62二次元好きの匿名さん25/06/08(日) 20:13:01

>>58

ネットに一度上げられたものを完全に消すのって不可能だもんな

しかも精神的なダメージは消えないし

だからこそ早く抑止力になりえるものを作らなきゃだめだと思うんだ

63二次元好きの匿名さん25/06/08(日) 20:13:10

タバコ吸うとかホテル街でおっさんと腕組んでるとかの真偽不明の写真がばら撒かれたらその時点で100％の潔白無くなるんだよな、どんなに否定しても
他人の評判落とすの簡単になりすぎて怖い

64二次元好きの匿名さん25/06/08(日) 20:13:58

卒アルとかも配られない時代が来たりするんだろうか

65二次元好きの匿名さん25/06/08(日) 20:14:05

もう去年くらいから外国や日本でも中高生が
AIで同級生のフェイクヌード作って出回ってるってニュースをいくつか見かけた気がするんだが

66二次元好きの匿名さん25/06/08(日) 20:14:19

>>57

有名人（セレブ）や政治家が関わると途端に「あれは本物！権力でディープフェイクってことにしたんだ！」で陰謀論な方々が出てくるからなあ…

67二次元好きの匿名さん25/06/08(日) 20:14:51

>>61

昔からデマ情報があったからってデマをばら撒きやすくするものへの対策もしなくていいとはならんだろ

>>74

68二次元好きの匿名さん25/06/08(日) 20:15:14

昔から顔切り抜いてアイコラとかやってたやんとも思うがそれを大多数が極小工程でできてしまうのが不味い

69二次元好きの匿名さん25/06/08(日) 20:15:37

政治家もヤバイよな
選挙時期にフェイク動画ばら撒かれたらそんなもんでも信じるレベルの大衆は絶対離れてく

70二次元好きの匿名さん25/06/08(日) 20:15:55

この手のスレにしては「これだから反AIは〜」みたいなこと言うヤツ出てこないな
それはそれで喜ばしいことだが

71二次元好きの匿名さん25/06/08(日) 20:16:06

日本の学校でも同級生裸にひん剥いたのツールで作って仲間内でオカズ用に回してたとか度々ニュースになってないか？

72二次元好きの匿名さん25/06/08(日) 20:16:21

やっぱ人類には生成AIは早すぎたんだよな
せめて技術職以外は使えない様にしてある程度使用感とか考えてから一般に売り出すべきだった…

73二次元好きの匿名さん25/06/08(日) 20:17:09

>>57

もう腐るほどあるぞ

74二次元好きの匿名さん25/06/08(日) 20:17:16

>>67

・インターネットの個人からの情報は信頼が置けない

という昔からのネットリテラシーの徹底で対応できるのではという意見のつもり

コラ画像が専門家以外の一般人も作りやすくなったからといってPhotoshopが規制できないのと同じ理論を適用しないといけないと個人的には思う

>>80

75二次元好きの匿名さん25/06/08(日) 20:17:28

AIで作られたものか否かって証明が人間側では難しくなってる（というかほぼ不可能）になってるから、AI使用自体に規制をかけるかフェイクポルノは即逮捕するくらいしないと無理では？

76二次元好きの匿名さん25/06/08(日) 20:18:23

技術はすごいし良いもののはずなんだ
ただあまりにも進化が早すぎた
もっとゆっくり進化すれば世間の知識も法律も追いついたのに、画像生成ができるようになってからまだ3年も経ってないんだぞ…なんだよ動画って

>>81

77二次元好きの匿名さん25/06/08(日) 20:18:44

新技術が出回った時ってまあこうなるよね
スマホの頃もこんな感じの会話見た覚えあるわ
まあ過激な規制はされずに折衷案に落ち着くんやないかと

78二次元好きの匿名さん25/06/08(日) 20:20:24

早い話、気に入らない人間の醜態作って晒すとかちょっとでも素材あれば気軽にできちゃうんだよな
やられた本人はそんなことやってないって悪魔の証明をする羽目になる

79二次元好きの匿名さん25/06/08(日) 20:21:30

まあ今の若者には悪いが「そういう時代です。我慢してくれ」って言うしかない
マトモな対抗手段が無いです

80二次元好きの匿名さん25/06/08(日) 20:21:47

>>74

お花畑が過ぎるだろ

ディープフェイクの質も量も今までと比較にならなくなってるって話なのに「徹底」なんていうフワッとしたもので対策できる訳がない

81二次元好きの匿名さん25/06/08(日) 20:22:53

>>76

なんでもそうだけどブレイクスルーが起こると一気に技術は発達するから仕方ない

82二次元好きの匿名さん25/06/08(日) 20:23:06

まあ今までに比べれば"ディープフェイクによる捏造です"って弁明が通りやすくはなるかも

83二次元好きの匿名さん25/06/08(日) 20:23:07

・人の怨みは買うな
・慎ましく目立たず生きろ
っての以外に避ける方法が思い浮かばない

84二次元好きの匿名さん25/06/08(日) 20:23:19

被害を訴えたら有罪にできるにしても「訴える」必要があるんだよね
公表されてから被害者が気づくまで時間かかるほど被害が増える

85二次元好きの匿名さん25/06/08(日) 20:23:24

裁判の証拠能力でひと悶着起こってようやく動くかどうか
総理のフェイクが風化するっておかしいだろ

86二次元好きの匿名さん25/06/08(日) 20:23:35

インターネットの利用免許制にしようぜ！

87二次元好きの匿名さん25/06/08(日) 20:25:31

元総理のフェイク動画なんてものが作られて騒ぎになってたとき何であれネタに出来るのか分からんかった

88二次元好きの匿名さん25/06/08(日) 20:25:38

>>52

というかどんどんそうなってるよね

もちろんその途上の被害はそこそこ生まれてはいるけど…

89二次元好きの匿名さん25/06/08(日) 20:26:02

最近AI動画が面白くて触ってる
それでも実写画像は恐ろしくて触れない、現実の誰かの写真に手を出したら二度と戻ってこれなくなる気がする
おとなしく手元のフィギュアとかロボとか動かして遊んでます…

90二次元好きの匿名さん25/06/08(日) 20:26:05

倫理もコンプラも無い新興企業がブリッツスケーリングで急速にサービス普及させて認知度とシェア高めるってのを続けてる限りこの手の問題は尽きない…だからその辺が規制されそう、ベンチャーの資金調達に厳格な審査導入されたり監査団体作られたり

91二次元好きの匿名さん25/06/08(日) 20:27:07

もういっそ政府が主導して全人類分ばらまけば一周回って誰も気にしなくなるんじゃない？

92二次元好きの匿名さん25/06/08(日) 20:28:31

画像や動画の信憑性がゼロになればそれはそれでいいインターネットだと思うんだけどなあ

>>96

93二次元好きの匿名さん25/06/08(日) 20:28:42

人間側が慣れていく形になるんだろうなって

94二次元好きの匿名さん25/06/08(日) 20:28:55

ま〜じで画像生成AIなんて生まれなきゃ良かったのに
これで得したやつとか詐欺師くらいしかいないんじゃないの？

95二次元好きの匿名さん25/06/08(日) 20:29:50

>>52

ネットという世界が仮想空間から現実との地続きと認識されるようになったけど

逆にまた仮想空間へ戻っていくんだな

96二次元好きの匿名さん25/06/08(日) 20:29:54

>>92

それはそう

でもその価値観の形成って10年以上かかりそうじゃない？