最近の生成AI問題ニュースに取り上げられてて草

たまたまニュース見てたらあにまんで最近まで騒がれてたGrokでビキニとかなんとかがニュースに取り上げられるほど大事になってんの笑えない
なんかあれで男子高校生が同級生の女子の写真を裸に見せる加工をして、その写真を売りさばいてるとか胸糞悪いニュース流れてて、これネットだけの問題じゃなくなってんなこれ

同級生の写真を猥褻な加工をして売りさばくとかそれ肖像権云々通り越して性犯罪だろ

技術に善悪は無いけど、技術の進化はアホに手段を与えるんだよね
粛々と取り締まりを強化するしかない

やはり規制必要だろ
せめて未成年はできないようにするべき

その男子学生まだ学生なのにそんなことやらかすのは将来マジで洒落にならん性犯罪犯しそうだから今のうちに矯正しなきゃヤバイじゃん

アイコラの頃から違法だったものをSNSなんて全世界見れる場で高精度でやったらそらそうなるよとしか言えんわ

>>7

漫画家どころじゃないぞ

世界中で一般人がやらかしとる

AI推進派でもこれは反対しないといけない部類だろ

学生ならその辺のAVやエロ本で我慢しろよ
なんで同級生をターゲットにしてんだ

そりゃまあ多少なり技術のある人間が手間かけてやってた事を
鼻水垂らしてるアホでもその場でやれるようにしたら
問題も起きるに決まってるだろとしか言えんのよな
あにまんですら指摘されるレベルだったし

こういうアホのせいで締め付けが厳しくなるんだよな

>>12

今までも出来たと言う奴もいるが難易度が段違いだからな

そりゃ技術もやる気もなかったアホでも手を出すようになる

>>9

いやアイドル漫画描いてる？人が仕事先のアイドルの剥ぎコラした上でアイドルから苦言されるも冗談だと思ったのか反省せず炎上

アイドルから直接的な言葉で言われて消したけど契約解除されたの

ついでにイーロンがビキニにできるという事やビキニにするやり方もレクチャーしたからな
何でビキニにしろとかやってperfect👍️とかやってんだあのおっさん…

大人ですらそんなことやられたら気持ち悪いし下手したらトラウマになるのに多感な時期に、しかも同級生に自分の写真が猥褻な写真に加工されて売りさばかれて羽目になってんの本当に可哀想
慰謝料請求しても誰も何も言えないし、その男子学生逮捕すべきだろ

>>15

契約解除も当然の行いで草

ちなみにタフカテでこれ言うと「インターネットに上げてる方が悪い」とか「インターネットを規制しろ」って返されるらしい　あそこマジ魔窟だろ

>>12

そりゃアイコラなんざ何十年前からあるが難易度が段違いなのは言わずもがな

隠さずやっちゃうようなアホは本気でXの機能でできるなら何しても良いと勘違いしてるからマジで悪いこと思ってない=隠れる必要がないと思ってるからオープンな場でやりまくるせいで大事になりやすいってのもある

AI推進派は反AIとか架空敵殴ってる暇あったらこのやらかしてる連中をしばけよ
最も推進する障害になってる、今AIで遊んでる連中やぞ

>>18

割とマジめに子供の学生のやったことだから、で済まされないことだもんなこれ

オーストラリアの子どもSNS禁止令はそろそろ真面目に評価されるべき
実効性はともかく

>>20

2割くらいは正しい、ネットのモラルはぶっ壊れてるので信用したらだめだっていうのは学んでいたほうがいい

そもそもぶっ壊れてるモラルが悪いのはそう

３次元の幼い子への性犯罪より２次元の方にあーだこーだ言うのが日本だし今回も理由こねくり回して結局２次元の方に話に持ってかれそう

>>11

楽に出来るようになった

無料出来るようになった

お金も稼げる

やっぱ人類には早かったな

マジで本当に気色悪くて無理
これ性別関係なく被害に遭う人増えるだろうから日本だけでも規制した方がいい

修学旅行とかの写真の焼き回を自分で選んで注文するシステムとかなくなりそうだな

未成年の写真でやったら児ポの単純所持に引っかかりそうだし今なる入れ食い状態でしょっぴけそうだけど流石にそうはならんよな

>>15

50歳漫画家が謝罪、アイドル写真を「首にマフラー、ビキニ着せて」生成AIで改変し物議醸す（日刊スポーツ） - Yahoo!ニュース　漫画家の田辺洋一郎氏（50）が6日までに自身のX（旧ツイッター）を更新。生成AIを用いた自身の不適切投稿を謝罪した。
　田辺氏はXの利用者向けに公開されている生成AI「Grok」で「首にマフラーnews.yahoo.co.jp

>>16

イーロンはネットのクソコラ文化に良い意味でも悪い意味で寛容だからな

Xに関しては自分がやられても気にしないし他の人もいいだろ感覚で規制していかない可能性は普通にある

大声じゃ言えないけど今までも普通に同じようなものは誰でも生成できる環境があったけど
やっぱり大手SNSで、3行も文章読めないような奴でもボタンポチっとすれば何も考えなくても簡単に生成できるっていう手軽さが加わるとこうもとんでもないことになるんだな…

結構前で韓国でもこうやって脅迫する奴いるからな…

AIで後輩女性のわいせつ画像合成…韓国の男「奴隷になれば削除してやる」　写真枚　国際ニュース：AFPBB News https://share.google/6Kyo203NzMWygx8nK

>>29

まぁ少なくてもやらかした男子学生がいる学校ではそういうのなくなるだろうな

ほんと学生時代から性犯罪者になるのはヤバいって

いや大人でもヤバいけど

これ高校生なら確実に退学だろうけど中学生ならお咎めなくそのままだよな？

マジで年齢関係なく犯罪犯したら罰を与えるべきだろ

>>32

流石に児ポも大量生産されてる状況じゃあ効力の程度はともかく対策しないとお国が黙ってねえんじゃねえかな…

児童以外はちょっとわからんけど未成年相手はなんとかしないとまずそう

>>35

中学生がこんなことやってたら冗談抜きで世界に絶望するからやめてくれ……

と思ったけどリアル中学生ってエロガキ結構いるしなぁ……

小さい子供は本人じゃなくて親が上げちゃってる点でも可哀想すぎるからせめて子供だけでも本気でなんとかしてくれ

>>38

今回のはどっちかと言うと金の方だと思う

でも多分そっち目的で既に何人もやってそうではある

それも男子女子問わず

まぁもっと直接的に同級生のセッ画像も作れるからね

だから子供のネット関連は誰がなんと言おうと規制しろとあれほど……

性加害ツールとして有名になったな

Xの機能や規則で生成OKだとしてもエロ加工したものをネットに上げたらマズいなんてアホでも分かることだろと思ってた
自分が思ってるより世の中にはアホが多かった

百歩譲ってエロ画像に加工すんのはいい
マジできっしょいけど
それをネットに投稿するとか逮捕されたいの？
それとも世間から冷たい目で見られたいマゾなの？

二次元が道連れになる前にとっとと規制してくれ
イラスト風にしたからセーフとか言いながらモデルにした人間に見せびらかすアホも出てくるぞ

>>44

バカッターと言われてた時代から分かりきった事やん

へーこんな機能ついたんだおもしろ！くらいの感覚で使ったら
一気にライン越えるの怖すぎるだろ…
マジで何考えてこんなん出来るようにしたんだ

正直イーロンが自分で自分のビキニ加工してんの死ぬほどキモイと思ってて、これをOKにしてるXの存在が割も地雷になってしまった
元からXまともにやってないけど、それは興味がないってだけでそれが興味無いから存在が無理になってる

昨年１～９月時点でこれなのでね

加速するよね

生成ＡＩなどで作成した子供の「性的偽画像」、同じ学校の加害者が半数…「学校の端末で入手」行事の画像悪用も【読売新聞】　生成ＡＩ（人工知能）などを悪用した子供の性的偽画像「性的ディープフェイク」を巡る相談・通報が今年１～９月、全国の警察に計７９件寄せられていたことが、警察庁のまとめでわかった。同級生らが加害者となるケースが目立ち、警察庁www.yomiuri.co.jp

元からあった機能が使いやすくなっただけで文句言う反AIといって折角批判を抑え込んでやったのに

騒ぎになり始めた頃のgrockの画像欄えげつなすぎて人間の愚かさにドン引いたけど今は見られなくなってるんだっけ？ソース忘れたから確証ないしキモ　オタから見ても草も生えないくらいキモかったから再度見にいく気にもなれない

そろそろ道具に罪はないで逃げるの厳しくなってきた？

ぶっちゃけ今回のはAIがってより肖像権がって方だしな

ネットに写真をあげる理由はこんなことがあったよ、こんな楽しいことがあったよっていうボジティブや気持ちを共有したいから上げててエロい目で見られたいわけじゃないのに、それを全く知らない赤の他人が「写真あげてる！じゃあこの写真好きに加工してんのネットにあげよう！」で自分の猥褻画像勝手に晒されるのって酷すぎない？

>>54

逃げないのが厳しくなってきた

規制を掛けるとAIの発展で自国だけが出遅れる可能性があるからどこの国も何も出来なくなってる

EU諸国も規制を掛ける掛ける言ったまま1年以上が過ぎて、今回の騒動も看過できないと言って以来触れなくなってしまった

>>51

＞被害者別では中学生が最多の４１件で、高校生が２５件、小学生が４件だった。

WTF

>>54

道具に罪はないが規制は必要すぎる

よく包丁に喩える奴がいるがどちらかというと銃の方が近いな

銃社会で誰でも銃が持てたとしても好き勝手乱射して良いわけじゃないし銃そのものにもセーフティは必要

>>58

もう終わりだよこの世界

>>56

ネットに自分の画像を上げるななんてのは散々言われてたのに無視してたのも悪い

今はそういう時代だから、そういう文化だからと思考停止せず、古のネチケットを守り続けるべきだった

>>52

あにまんでは完全にこの意見で染まってたのにな

馬鹿がこんな事したせいで後ろから撃たれた気持ちだよ

何が酷いって自分の意思でネットに上げたわけじゃない人も被害にあってる事

咳止めに罪はなくても一気飲みするバカが増えたら
それなりの対策はされるようなもんで…
道具は悪くないのと悪さする奴に届きにくくする
対処法は別に両立するしな

>>64

馬鹿は予想できないことをする

その程度のことに気づかなかった自分の馬鹿さ加減を笑え

大体勝手に意見統一して代表面してんじゃないよ

俺はAIを批判してんじゃなくてAIを悪用するバカを批判してんだよ
そこんとこわかってくれ
なのにその意見ですら反AIって嘲笑すんな
見ろよこの惨状

>>65

盗撮されたらディープフェイクの素材にされるってマジで防ぎようがないな

画像生成AIは別個にあって同じ事はこれまでもできたが手軽になりすぎたな

>>68

反AI扱いされてた奴ですらわかってた事をAI儲さんはわからなかったってマジ？

>>59

資格持ちが許可されたエリアで動物に向かって撃つのは良くても一般人が町中で適当に発砲したらアウトだしな

>>70

画像ではないけど仕事で生成AI使ってる人間なので生成AI自体は否定しないけど

取り扱いに注意が必要なものはお子様の手の届かない場所に置かないといけないように

一定水準未満のバカの手の届かない技術でなくちゃいけなかったんだなって痛感せざるを得ないっすね

>>72

そうみたい

ハードル下がるのがヤバいと言われても反AIガー、元からある機能でと話通じなかったもん

まぁこのカテの事なんだけど