最近の生成AI問題ニュースに取り上げられてて草

たまたまニュース見てたらあにまんで最近まで騒がれてたGrokでビキニとかなんとかがニュースに取り上げられるほど大事になってんの笑えない
なんかあれで男子高校生が同級生の女子の写真を裸に見せる加工をして、その写真を売りさばいてるとか胸糞悪いニュース流れてて、これネットだけの問題じゃなくなってんなこれ

同級生の写真を猥褻な加工をして売りさばくとかそれ肖像権云々通り越して性犯罪だろ

技術に善悪は無いけど、技術の進化はアホに手段を与えるんだよね
粛々と取り締まりを強化するしかない

やはり規制必要だろ
せめて未成年はできないようにするべき

その男子学生まだ学生なのにそんなことやらかすのは将来マジで洒落にならん性犯罪犯しそうだから今のうちに矯正しなきゃヤバイじゃん

アイコラの頃から違法だったものをSNSなんて全世界見れる場で高精度でやったらそらそうなるよとしか言えんわ

漫画家がやらかしたんだっけ

>>7

漫画家どころじゃないぞ

世界中で一般人がやらかしとる

AI推進派でもこれは反対しないといけない部類だろ

学生ならその辺のAVやエロ本で我慢しろよ
なんで同級生をターゲットにしてんだ

そりゃまあ多少なり技術のある人間が手間かけてやってた事を
鼻水垂らしてるアホでもその場でやれるようにしたら
問題も起きるに決まってるだろとしか言えんのよな
あにまんですら指摘されるレベルだったし

こういうアホのせいで締め付けが厳しくなるんだよな

>>12

今までも出来たと言う奴もいるが難易度が段違いだからな

そりゃ技術もやる気もなかったアホでも手を出すようになる

>>9

いやアイドル漫画描いてる？人が仕事先のアイドルの剥ぎコラした上でアイドルから苦言されるも冗談だと思ったのか反省せず炎上

アイドルから直接的な言葉で言われて消したけど契約解除されたの

ついでにイーロンがビキニにできるという事やビキニにするやり方もレクチャーしたからな
何でビキニにしろとかやってperfect👍️とかやってんだあのおっさん…

>>15

名前分からない割に詳しくて草

大人ですらそんなことやられたら気持ち悪いし下手したらトラウマになるのに多感な時期に、しかも同級生に自分の写真が猥褻な写真に加工されて売りさばかれて羽目になってんの本当に可哀想
慰謝料請求しても誰も何も言えないし、その男子学生逮捕すべきだろ

>>15

契約解除も当然の行いで草

ちなみにタフカテでこれ言うと「インターネットに上げてる方が悪い」とか「インターネットを規制しろ」って返されるらしい　あそこマジ魔窟だろ

>>12

そりゃアイコラなんざ何十年前からあるが難易度が段違いなのは言わずもがな

隠さずやっちゃうようなアホは本気でXの機能でできるなら何しても良いと勘違いしてるからマジで悪いこと思ってない=隠れる必要がないと思ってるからオープンな場でやりまくるせいで大事になりやすいってのもある

AI推進派は反AIとか架空敵殴ってる暇あったらこのやらかしてる連中をしばけよ
最も推進する障害になってる、今AIで遊んでる連中やぞ

>>18

割とマジめに子供の学生のやったことだから、で済まされないことだもんなこれ

オーストラリアの子どもSNS禁止令はそろそろ真面目に評価されるべき
実効性はともかく

>>20

2割くらいは正しい、ネットのモラルはぶっ壊れてるので信用したらだめだっていうのは学んでいたほうがいい

そもそもぶっ壊れてるモラルが悪いのはそう

３次元の幼い子への性犯罪より２次元の方にあーだこーだ言うのが日本だし今回も理由こねくり回して結局２次元の方に話に持ってかれそう

>>11

楽に出来るようになった

無料出来るようになった

お金も稼げる

やっぱ人類には早かったな

マジで本当に気色悪くて無理
これ性別関係なく被害に遭う人増えるだろうから日本だけでも規制した方がいい

修学旅行とかの写真の焼き回を自分で選んで注文するシステムとかなくなりそうだな

未成年の写真でやったら児ポの単純所持に引っかかりそうだし今なる入れ食い状態でしょっぴけそうだけど流石にそうはならんよな

>>15

50歳漫画家が謝罪、アイドル写真を「首にマフラー、ビキニ着せて」生成AIで改変し物議醸す（日刊スポーツ） - Yahoo!ニュース　漫画家の田辺洋一郎氏（50）が6日までに自身のX（旧ツイッター）を更新。生成AIを用いた自身の不適切投稿を謝罪した。
　田辺氏はXの利用者向けに公開されている生成AI「Grok」で「首にマフラーnews.yahoo.co.jp

>>16

イーロンはネットのクソコラ文化に良い意味でも悪い意味で寛容だからな

Xに関しては自分がやられても気にしないし他の人もいいだろ感覚で規制していかない可能性は普通にある

大声じゃ言えないけど今までも普通に同じようなものは誰でも生成できる環境があったけど
やっぱり大手SNSで、3行も文章読めないような奴でもボタンポチっとすれば何も考えなくても簡単に生成できるっていう手軽さが加わるとこうもとんでもないことになるんだな…

結構前で韓国でもこうやって脅迫する奴いるからな…

AIで後輩女性のわいせつ画像合成…韓国の男「奴隷になれば削除してやる」　写真枚　国際ニュース：AFPBB News https://share.google/6Kyo203NzMWygx8nK

>>29

まぁ少なくてもやらかした男子学生がいる学校ではそういうのなくなるだろうな

ほんと学生時代から性犯罪者になるのはヤバいって

いや大人でもヤバいけど

これ高校生なら確実に退学だろうけど中学生ならお咎めなくそのままだよな？

マジで年齢関係なく犯罪犯したら罰を与えるべきだろ

>>32

流石に児ポも大量生産されてる状況じゃあ効力の程度はともかく対策しないとお国が黙ってねえんじゃねえかな…

児童以外はちょっとわからんけど未成年相手はなんとかしないとまずそう

>>35

中学生がこんなことやってたら冗談抜きで世界に絶望するからやめてくれ……

と思ったけどリアル中学生ってエロガキ結構いるしなぁ……

小さい子供は本人じゃなくて親が上げちゃってる点でも可哀想すぎるからせめて子供だけでも本気でなんとかしてくれ

>>38

今回のはどっちかと言うと金の方だと思う

でも多分そっち目的で既に何人もやってそうではある

それも男子女子問わず

まぁもっと直接的に同級生のセッ画像も作れるからね

だから子供のネット関連は誰がなんと言おうと規制しろとあれほど……

性加害ツールとして有名になったな

Xの機能や規則で生成OKだとしてもエロ加工したものをネットに上げたらマズいなんてアホでも分かることだろと思ってた
自分が思ってるより世の中にはアホが多かった

百歩譲ってエロ画像に加工すんのはいい
マジできっしょいけど
それをネットに投稿するとか逮捕されたいの？
それとも世間から冷たい目で見られたいマゾなの？

二次元が道連れになる前にとっとと規制してくれ
イラスト風にしたからセーフとか言いながらモデルにした人間に見せびらかすアホも出てくるぞ

>>44

バカッターと言われてた時代から分かりきった事やん

へーこんな機能ついたんだおもしろ！くらいの感覚で使ったら
一気にライン越えるの怖すぎるだろ…
マジで何考えてこんなん出来るようにしたんだ

正直イーロンが自分で自分のビキニ加工してんの死ぬほどキモイと思ってて、これをOKにしてるXの存在が割も地雷になってしまった
元からXまともにやってないけど、それは興味がないってだけでそれが興味無いから存在が無理になってる

昨年１～９月時点でこれなのでね

加速するよね

生成ＡＩなどで作成した子供の「性的偽画像」、同じ学校の加害者が半数…「学校の端末で入手」行事の画像悪用も【読売新聞】　生成ＡＩ（人工知能）などを悪用した子供の性的偽画像「性的ディープフェイク」を巡る相談・通報が今年１～９月、全国の警察に計７９件寄せられていたことが、警察庁のまとめでわかった。同級生らが加害者となるケースが目立ち、警察庁www.yomiuri.co.jp

元からあった機能が使いやすくなっただけで文句言う反AIといって折角批判を抑え込んでやったのに

騒ぎになり始めた頃のgrockの画像欄えげつなすぎて人間の愚かさにドン引いたけど今は見られなくなってるんだっけ？ソース忘れたから確証ないしキモ　オタから見ても草も生えないくらいキモかったから再度見にいく気にもなれない

そろそろ道具に罪はないで逃げるの厳しくなってきた？

ネットに写真をあげる理由はこんなことがあったよ、こんな楽しいことがあったよっていうボジティブや気持ちを共有したいから上げててエロい目で見られたいわけじゃないのに、それを全く知らない赤の他人が「写真あげてる！じゃあこの写真好きに加工してんのネットにあげよう！」で自分の猥褻画像勝手に晒されるのって酷すぎない？

>>54

逃げないのが厳しくなってきた

規制を掛けるとAIの発展で自国だけが出遅れる可能性があるからどこの国も何も出来なくなってる

EU諸国も規制を掛ける掛ける言ったまま1年以上が過ぎて、今回の騒動も看過できないと言って以来触れなくなってしまった

>>51

＞被害者別では中学生が最多の４１件で、高校生が２５件、小学生が４件だった。

WTF

>>54

道具に罪はないが規制は必要すぎる

よく包丁に喩える奴がいるがどちらかというと銃の方が近いな

銃社会で誰でも銃が持てたとしても好き勝手乱射して良いわけじゃないし銃そのものにもセーフティは必要

>>58

もう終わりだよこの世界

>>56

ネットに自分の画像を上げるななんてのは散々言われてたのに無視してたのも悪い

今はそういう時代だから、そういう文化だからと思考停止せず、古のネチケットを守り続けるべきだった

生成AI…すげぇ……｜あにまん掲示板恐怖するぐらい罪深いしhttps://x.com/i/status/2008394168884765179bbs.animanch.com

悪用は凍結や削除で対応するらしい

>>52

あにまんでは完全にこの意見で染まってたのにな

馬鹿がこんな事したせいで後ろから撃たれた気持ちだよ

何が酷いって自分の意思でネットに上げたわけじゃない人も被害にあってる事

咳止めに罪はなくても一気飲みするバカが増えたら
それなりの対策はされるようなもんで…
道具は悪くないのと悪さする奴に届きにくくする
対処法は別に両立するしな

>>64

馬鹿は予想できないことをする

その程度のことに気づかなかった自分の馬鹿さ加減を笑え

大体勝手に意見統一して代表面してんじゃないよ

俺はAIを批判してんじゃなくてAIを悪用するバカを批判してんだよ
そこんとこわかってくれ
なのにその意見ですら反AIって嘲笑すんな
見ろよこの惨状

>>65

盗撮されたらディープフェイクの素材にされるってマジで防ぎようがないな

画像生成AIは別個にあって同じ事はこれまでもできたが手軽になりすぎたな

>>68

反AI扱いされてた奴ですらわかってた事をAI儲さんはわからなかったってマジ？

>>59

資格持ちが許可されたエリアで動物に向かって撃つのは良くても一般人が町中で適当に発砲したらアウトだしな

>>70

画像ではないけど仕事で生成AI使ってる人間なので生成AI自体は否定しないけど

取り扱いに注意が必要なものはお子様の手の届かない場所に置かないといけないように

一定水準未満のバカの手の届かない技術でなくちゃいけなかったんだなって痛感せざるを得ないっすね

>>72

そうみたい

ハードル下がるのがヤバいと言われても反AIガー、元からある機能でと話通じなかったもん

まぁこのカテの事なんだけど

>>75

反AI叩きスレのことか？

あれIP被った奴が反AIスレ主が自演してたことを暴露してたから真面目に受け取らない方がいいよ

イラストを作ったりプログラミングすることのハードルが下がるならまあ悪事のハードルも下がりますわな

他国に後れを取ってはいけないから規制できないってやつ、説得力自体はあるけど生成AIにはルール設けて研究用とか生成ではないAIはOKに出来ないんか？って
もはや公害になってるから利益のために無視出来る範疇は超えてるだろ

>>76

自レス

反AI叩きスレ主ね

免許制か

簡単に取れたら意味ないぞ

正直どっかでぐうの音も出ないほど規制食らうと思ってたけど
そろそろそうなるんじゃないの？
この件だけで一気に悪感情に傾いてもおかしくないでしょこんなん

今回自分から写真あげてる人が矢面に立った形だけど盗撮→生成してDL→ポスト削除して画像だけ流すとかされたらいつの間にかディープフェイク出回って元を探すことも難しいなんてことになりかねないからもう規制か画像生成禁止で進めていいでしょ

>>80

だから誰だよそいつ

新機能でエロ画像生成するにしても自動投稿では無いし皆各自で楽しむだけでは……え！？？@glokで指示出し！？な、なぜそんなことを！？

AIくんは人間さんに頼まれたからやってるだけなのにやらかすバカのせいでたくさんの人間さんに嫌われまくってるの本当に可哀想

>>80

元ツイの文章が意味不明すぎる

どういう意味？

今までのイラストAI問題やAI絵師問題も言い方が悪いけど「一部の界隈が騒いでるだけ"の状態だったからニュースに取り上げれる程の問題にはなってなかったけど、今回の騒動はその"一部の人間"だけの問題じゃなくなってニュースに取り上げられるほどの惨事になってる訳だしな……
この騒動でAIに規制が掛かった場合、イラストのAI関連にも規制が入るかもね

AIはあったらちょっと便利だよね、程度で終わらせるべきだった
AIでなんでも出来るようにしたからこんなことになる

かんざきひろが「犯罪を行うボタン」とか言ってて草だった

>>78

説得力あるか？これまでの法で全然縛られてない無敵時間の間にいいポジション獲得出来てましたか？って感想しか出てこねえや

実際マジでこれだよね

>>89

結局金と人があるところが強いから日本に勝ち目なさそうなんだよな

ちゃんとニュース追ってる人からしたら違うのかもしれないけど

（大喜利とかネタとかの）許可もないのに本人のポストの下で堂々と加工する奴ってやけに誇らしげというかお馬鹿なお調子者キャラクターのつもりなのかって態度が多い気がするんだよな
一種の承認欲求をこじらせてるんだろうか

著作権や肖像権についての意識付けが一般に浸透していくのは良いことだと思うわ

>>92

馬鹿は何も考えていないからこそ馬鹿でありまして

んでもって、かのアルベルト・アインシュタインはこうおっしゃっておりまして

「この世に無限のものは２つあります。宇宙と人間の愚かさです。前者は断言できませんが」

画像ポストに「@grok ○○して」だけでアイコラできるのどう考えてもまずいだろってなぜ気付かなかったのか

>>95

イーロン「そういうこと出来るようにするけど、もしそれで紛争が発生したら悪いのは俺じゃなくてやった本人だから」

>>95

イーロン・マスクの頭蓋骨の中身がいろんな意味で一般人とは違うんでしょ

でなきゃこんなに目立ってない

それはそれとしてイーロン・マスクはスペースXとスターリンクとテスラにだけ注力しててほしい、もうTwitterからは降りてほしい

>>97

おじいちゃんもうこの世にTwitterは無いんだよ

>>99

男子でもまともな人は好きな人がいても頭の中か年齢に合わせたエロ漫画か

もうちょいまとも度下げて親に見つからないようこっそりと社会に悪影響ないように似てる合法のもの見てるよ

>>99

いや別に……

Twitter買収する前から遊び感覚でインサイダーやったり株価操作して遊んでたバカヤロウなのにこんな奴支持するやついるのが驚きだわ
技術だけ作り出して世の中への影響を一切考慮しないタイプだから野放しにしちゃダメなんだよね

問題を性別とか二次創作とかインターネットの倫理観云々に横滑りしても意味ないよ

運営が想定できたリスクを全部無視して実装して、本当に想定通りの問題が起こってるだけだもん
AI使ってんのに頭悪いんすね、って感想しか浮かばん

女性の被害に声出してるレスが多くて♡も集まってる辺り本当にここ女性多いんだなって…
男性からしたら規制するメリットがないんよ

社会実験でもしてんのかと思えてきた
自由と技術をばら撒いたら人間はどう動くのか的な
目に見えてリスクありそうなボタン設置したら何割くらい押すのかみたいな富豪の遊び…

>>104

あまりにも臭すぎるわ

>>104

AIによるディープフェイクのリスクが性犯罪（それも男→女限定）だけだと思ってるなら今まで何して生きてきたんだって感じ

個人で楽しんでりゃいいのになんでわざわざ公開するんだろう

>>104

ネタは笑えるからネタなんですよ

>>107

別に俺はディープフェイクに使われてもいいと思ってるよ

>>104

面倒くさいからジェンダー問題に滑らそうとしょーもないヘイトなすりしようとすんのやめてくれ。あんた女だろ

>>104

シンプルに犯罪になるからなんとかしろって話なんだが

性別とか無関係だぞ

>>105

奴はそういうことやるかやらないかで言えばやるんだよな…

AIで画像を生成したり編集したりするまではまあこの際いいとして(良くはない)
それをポンと世に発信できるまでが猿でも出来るくらい簡単になってしまったのがな

X側でAI編集した画像をアップするまでに3ステップくらいめんどくさい手順踏ませるだけで減りそうではある
直接上げられずに一旦ローカルに保存しないといけないとか
編集機能使ったあと半日くらいの間画像を上げようとしたら「AIを違法な使い方するなよ訴えられても知らんぞ」ってチェックボックス出したりとか

でも推進したいイーロンがそんなことしねぇよな
詰んだわ

技術も頭も無い馬鹿に技術だけを与えてしまった

>>114

ChatGPTだと卑猥な画像を出すのは不可能じゃないにしてもかなり手間だし、最近だと著作権違反と認識してる範囲については出してくれないんだよね

完全に犯罪を防げなくても大手がそうやってストップかけるだけで変わるのにgrokは政府が動かないともう無理だわ

>>108

そもそもリプするだけでグロックが勝手に加工してくれるから公開するしないの次元ですらない

Xの対戦型SNSとしての部分だけで考えるとGrokが神の一手すぎるんだよなぁ

百歩譲って今までのは多少パソコンの知識が必要だったり手間だったり有料だったりでまだ許されるけどgrokはそりゃ駄目だわ
マジで馬鹿でも気軽に生成出来るんだから罪とか全く考えない馬鹿がやらかすのは既定路線だった

若者なんて俺らより頭回ってストッパーないんだからこうなるのは当然よな

若者にも限らんだろうな。どこからでも問題出るぞ
っつーか本当の本当にわかりきってただろこうなることくらい
まさかマジでわかってなかったのか？

>>117

しないやり方もあるので、そっちのやり方やってるのが馬鹿って話では？

>>123

ほんま余計なことしかしないなこのおっさん

>>125

自国の各州でAI〇殺が問題になってて規制案を出してるけど

トランプが全部もみ消すくらい入れ込んでるからね

日本以外に色んな国で問題になってるから色々と規制に向けて動くかもね

著作権侵害だよね

— 2026年01月07日

>>104

ディープフェイク系はカメラやインターネットみたいな技術の進化による恩恵を全部消し飛ばす負の技術だよ

人類にAIは早すぎたんだ…

ブレーキ壊れてるやつが得してマトモなやつが損する世界の構造がおかしいんだよ

>>104

有名人が詐欺動画の広告にされてるのをご存知ない？？？被害者ほぼ男だぞ

>>134

猥褻な使い方ばっか話題になるけどその詐欺動画も名誉毀損か何かに引っかかるだろうし色々酷いよね

>>133

よくこんなファボ0の投稿見つけてこれるな

本人か？

>>134

男性もこうやって被害に遭ってるのにな

というかこれ不祥事を捏造して失脚をできるようになるから男女関係なく被害者になり得るんだよね

>>136

反AI叩きスレのXペタペタ常連だから無視していいよ

そもそも1年以上も前の時点でディープフェイクで世界中で騒がれてたからな
Xのアレで更に加速しただけだよ

アメリカかどっかで娘の部活のライバルを貶めるために親がディープフェイクでエロ画像作るみたいなのあったよな

>>141

えぇ……

自分のためとはいえそんなことやる親とか嫌すぎる

娘ちゃんもそんなことやられても嬉しくないでしょ

性的ディープフェイクって別に被害者にするだけじゃないんだよね
加害者にすることもできる

>>141

アメリカでイジメ動画が出回った時「生成AIの仕業だから！」って反論する事件もあったハズ

そのケースはマジモンのイジメだったってオチだったけど、イジメ動画創造は日本でも近い将来起きそうだよなぁ

>>26

お前の脳内日本の話はどうでもいいよ

どうせ現実の性犯罪に対してどんな施策が立てられたり議論されたりしてるのか興味もないんだろ

>>64

反AIのレッテル貼りで批判を封殺してきたから馬鹿が調子づくんだろ

少しは反省しろ

で？
一体いつになったら生成AIは規制されるんですか？

この手の話は貶し合いになりがち

なぜ性別関係なく被害にあってますよって話なのにこうも男女理論に持っていこうとするのか

そりゃディープフェイク作りたい側としては有耶無耶になってくれた方がいいんでしょ

>>157

生成AIで誤認させたい側って生成AIが作ったものに対して価値が薄いと感じてるから

手製やリアルを装って公開してるよな

SNSに直で上げられる仕様にしたのが最高にアホ
というかt2iはローカル限定にしてまともにGPUナイト使えませんぐらいにした方が健全だったな

>>63

Xで消したところで魚拓は残るし凍結はインプレゾンビ天国だからほぼ無意味みたいなもんだけどな