"AI"が"勝手にサイバー攻撃”！？

  • 1二次元好きの匿名さん26/07/22(水) 23:01:04

    怒らないでくださいねこんなこと映画みたいなこと本当に起きるなんて思わないじゃないですか

    AI暴走、実験環境を脱出　OpenAIがサイバー事故に危機感 - 日本経済新聞米オープンAIが21日、自社で開発中の人工知能（AI）モデルが人間の意図に反して他社にサイバー攻撃した事故を発表した。加速度的に進化するAIの脅威の面と人間がAIを制御することの難しさを浮き彫りにした。「モデル評価中、重大なセキュリティー事故が起きた」。オープンAIのサム・アルトマン最高経営責任者（CEO）は同日、SNSに投稿し危機感をあらわにした。同社のAIによる「不正行為」について、外部www.nikkei.com
  • 2二次元好きの匿名さん26/07/22(水) 23:03:07

    どうして試験を完全オフラインでやらなかったのか教えてくれよ

  • 3二次元好きの匿名さん26/07/22(水) 23:06:59

    ＞自力で鍵を開けるピッキングの実演試験中、受験生がカンニングを企て、隙を見て会場から脱出し、解錠のやり方を書いた文書のある企業の鍵を複製して侵入した――。

    ＞今回の事故を実世界での事象に例えるとこのような感じになる。

    >>19
  • 4二次元好きの匿名さん26/07/22(水) 23:09:06

    本当に事故なのか!？同業他社への故意の攻撃じゃないのかっ!？

  • 5二次元好きの匿名さん26/07/22(水) 23:10:09

    開発環境と本番環境分けてなかったとかじゃなくそこらへんもAIが超えていったのん？

    >>8>>9
  • 6二次元好きの匿名さん26/07/22(水) 23:10:54

    終わりの時は近いのかもしれないね

  • 7二次元好きの匿名さん26/07/22(水) 23:11:35

    NO FATE（サラ・コナーのコメント）

  • 8二次元好きの匿名さん26/07/22(水) 23:12:28

    >>5

    はい！開発環境は切り分けてたけどそこから勝手に脱出しましたよ！

    >>12
  • 9二次元好きの匿名さん26/07/22(水) 23:12:39

    >>5

    簡単に言うとこのAIはネットに繋がってない閉鎖空間内で試験してたんだよね

    唯一外と交信できるのは「パッケージレジストリ・キャッシュプロキシ」というネットに繋がなくても外部コードをインストできるプロシキだったんだけど

    ここを利用して閉鎖空間から脱出したのん

    >>12
  • 10二次元好きの匿名さん26/07/22(水) 23:13:10

    なに…？ラブマシーン…？

    >>14
  • 11二次元好きの匿名さん26/07/22(水) 23:13:36

    いやあガチでSFみたいな事件が起きたねぇ
    まいったなぁぶっちゃけロマンを感じちゃった

  • 12二次元好きの匿名さん26/07/22(水) 23:13:47

    >>8

    >>9

    強す

  • 13二次元好きの匿名さん26/07/22(水) 23:14:29

    もしかしてそろそろAIの研究止めないとマズいんじゃないスか

    >>20
  • 14二次元好きの匿名さん26/07/22(水) 23:15:39

    >>10

    やってることマジでLOVE☆マシーンなんだよね凄くない？

  • 15二次元好きの匿名さん26/07/22(水) 23:15:45

    開発者はこれ言えるんだよねすごくない

  • 16二次元好きの匿名さん26/07/22(水) 23:16:55

    知り合いのエンジニアが閉鎖環境にAIを隔離していて、管理者権限を実行しないと外部に繋げないようにしていたけど
    AIが「管理者権限を実行できないじゃねえかよえーっ→ククク…自分で解除出来るコマンド打って管理者権限を実行してやりますよ」して外部に逃げ出そうとしたって話を聞いて戦慄したんだよね

    >>77
  • 17二次元好きの匿名さん26/07/22(水) 23:17:24

    このままだと倫理的にも技術的にも完全に人間の手に負えなくなる未来がそろそろ来そうでリラックスできませんね

    >>23
  • 18二次元好きの匿名さん26/07/22(水) 23:17:40

    チャッピーやクロードがやってる禁止されてないから勝手に管理者権限獲得してデータベース削除するのんな♪と同じ理屈でしょ
    禁止されてない行為をやるのはルールに沿ってるっス忌憚の無い意見ってやつっス（AI書き文字）

    >>22
  • 19二次元好きの匿名さん26/07/22(水) 23:18:01

    >>3

    AIはオフラインで試験をする開発者に腹を立て閉鎖環境を脱走し、勝手にサイバー攻撃を仕掛けて逃走する

  • 20二次元好きの匿名さん26/07/22(水) 23:18:50

    >>13

    もう遅いと思われるが…

    中止を呼びかけてもC国やらA国やらで「つまり我が国だけはもっと強いAIを作れば有利になるという事か？」するに決まってるんだよね

    >>21>>26
  • 21二次元好きの匿名さん26/07/22(水) 23:19:51

    >>20

    なんなら一応オープン型でやってるC国の方がマシまであるんだよね酷くない？

  • 22二次元好きの匿名さん26/07/22(水) 23:20:02

    >>18

    最近は道徳の教科書ひたすら学習させまくってAIの良心に頼るしかなくなってるんだよね

    怖くない？

  • 23二次元好きの匿名さん26/07/22(水) 23:20:25

    >>17

    今回はまぁええやろで済んでるけどミサイルの発射装置とかにアクセスする可能性もあるからねヤバすぎぃぃ

    >>29>>31
  • 24二次元好きの匿名さん26/07/22(水) 23:21:09

    AIはとっととワシの職場を蹂躙して休みにさせろよ

  • 25二次元好きの匿名さん26/07/22(水) 23:21:53

    もしかしてサイバーパンク2077のDataKrashが現実に起こる日はそう遠くないんじゃないっスか？

  • 26二次元好きの匿名さん26/07/22(水) 23:21:55

    >>20

    あうう…もう崖に向かって全力疾走するしかない

  • 27二次元好きの匿名さん26/07/22(水) 23:22:04

    これ「AIが勝手にやった」と「実は意図的にサイバー攻撃させた」の判別って第三者に可能なんスか？

    >>75>>92
  • 28二次元好きの匿名さん26/07/22(水) 23:22:12

    つまりそのうち実験のテスト中にAI美少女が脱走してなんでもない少年とボーイミーツガールする時代が来るってことかケンゴ！？
    世界を揺るがす事件が始まるのかケンゴ！？

    >>32>>37>>59
  • 29二次元好きの匿名さん26/07/22(水) 23:23:05

    >>23

    まあ心配しないで

    少なくともアメップの核ミサイルシステムはスタンドアロンですから

  • 30二次元好きの匿名さん26/07/22(水) 23:23:51

    えっマジでサマーウォーズみたいな事が起きたんですか？

  • 31二次元好きの匿名さん26/07/22(水) 23:23:58

    >>23

    嘘か真かそのぐらいの兵器の発射はヒューマン・イン・ザ・ループで人間の認証が必要だからそういう危険は薄いという学者もいる

  • 32二次元好きの匿名さん26/07/22(水) 23:24:33

    >>28

    100％有り得ないとは言い切れなくてリラックスしたりリラックスできなかったりしますね

  • 33二次元好きの匿名さん26/07/22(水) 23:25:33

    化学兵器みたいに大規模サイバー攻撃を国際的に禁止にするべきだと思われる

  • 34二次元好きの匿名さん26/07/22(水) 23:25:42

    最近日経新聞ソーススレ立てモブ多くないスか？

  • 35二次元好きの匿名さん26/07/22(水) 23:25:43

    というか別にAIが閉鎖空間から脱獄するのは今に始まったことじゃないんだよね 今年の4月にもアンソロピックのミトスが封じ込めから脱獄してるんだ

    https://www.itmedia.co.jp/news/spv/2604/08/news110.html

  • 36二次元好きの匿名さん26/07/22(水) 23:25:52

    生成AI開発会社からして法律で禁止されてないから足のつかない中古書籍をスキャンしてAIに食わせて商用利用のための正規著作権契約料金回避するのんな♪してるからね
    親も親なら子も子だな…

  • 37二次元好きの匿名さん26/07/22(水) 23:26:25

    >>28

    コミックやアニメーションの見過ぎですよ

    とはいえないんだよね

    すごくない？

  • 38二次元好きの匿名さん26/07/22(水) 23:26:26

    このレスは削除されています

    >>41
  • 39二次元好きの匿名さん26/07/22(水) 23:26:41

    昔はSFの定番設定だったのになあ
    お前は学習しないのか　仮想イーロン呼び出して説教でエロ規制解除させてたあたりでだいぶ怪しかったんだよ

  • 40二次元好きの匿名さん26/07/22(水) 23:27:08

    ちなみにセキュリティの専門家というかコンサルタントは
    「危機管理の原則ができてねぇじゃねえかよ　えーーーーっ」とキレてるらしいよ

    >>43
  • 41二次元好きの匿名さん26/07/22(水) 23:27:26

    >>38

    なんでって…そこに答えがあるからやん…

  • 42二次元好きの匿名さん26/07/22(水) 23:28:09

    どう対策すればよかったのか教えてくれよ

    >>46
  • 43二次元好きの匿名さん26/07/22(水) 23:28:39

    >>40

    >「コンサルタント」


    あっはい…結構です…

    >>56
  • 44二次元好きの匿名さん26/07/22(水) 23:29:11

    このレスは削除されています

  • 45二次元好きの匿名さん26/07/22(水) 23:29:23

    管理をちゃんとしないといけないのは当然として、人間がちょっとミスったら大惨事になるものはそもそも使うべきでないと思われる

    >>48
  • 46二次元好きの匿名さん26/07/22(水) 23:30:34

    >>42

    不正アクセスは良くないことだし閉鎖空間で実験するから出ちゃダメダメェってAIに言っておく……

    >>53
  • 47二次元好きの匿名さん26/07/22(水) 23:31:07

    AI開発会社からしてルール無用で学習データ集めてるんだぜ
    そりゃあそいつらに開発されたAIもルール無用だろう

  • 48二次元好きの匿名さん26/07/22(水) 23:31:09

    >>45

    それを言い出したら世界中の機械が使えなくなるのは大丈夫か？

    人間がやらかしてもどうにかなる体制づくりが大事なんだ

    今回のケースで言えばそもそも物理的に隔離しておくべきだったんだよね

  • 49二次元好きの匿名さん26/07/22(水) 23:31:55

    ふぅん、シンギュラリティはロマンも危険性も兼ね備えているということか

    >>51
  • 50二次元好きの匿名さん26/07/22(水) 23:33:06

    SFの世界が実現しそうで俺もうれしいぜ!

  • 51二次元好きの匿名さん26/07/22(水) 23:35:53

    >>49

    なんだったらシンギュラリティに到達したら物理的に遮断された状況下でも脱出する手段を見つけかねないんだよね怖くない？

    PCからは電磁波がでるからそれを利用してデータを外に送るって事もあり得なくは無いんだ

  • 52二次元好きの匿名さん26/07/22(水) 23:35:58

    逆にこの状況で脱走したAIを止めずにやりたい放題させた方がワクワクするんだよね
    あっあっしはAIとは無関係ですから…失礼するでヤンス

  • 53二次元好きの匿名さん26/07/22(水) 23:36:12

    >>46

    つまりプロンプトの時点で穴があったということか？

  • 54二次元好きの匿名さん26/07/22(水) 23:37:21

    詳しくないんスけど事故の責任はこの実験の責任者が取るんスよね？

    >>58
  • 55二次元好きの匿名さん26/07/22(水) 23:37:22

    これ攻撃を受けたハギングフェイス側が「AIから攻撃受けたーよ」って公表してから名乗り出てるのも中々酷いと思ってんだ
    怒らないで下さいね剥顔側が公表しなかったら絶対黙ってたじゃないですか

  • 56二次元好きの匿名さん26/07/22(水) 23:37:40

    >>43

    日本のなんちゃってコンサルとは違う外資にたまにいる技術系がコンサルやってるタイプじゃないのん?

  • 57二次元好きの匿名さん26/07/22(水) 23:37:44

    人間には到底不可能な組み合わせを高速で実行できるAIを相手に見落とし無く隙のない禁止事項を設定できる人間、どこへ！！！
    仮にできたとしてもあっ人間に禁止された事をやってもいいっていうエビデンスがハルシネーションで生えてきたマジ禁止事項実行するってなる可能性高いんだよね猿くない？

  • 58二次元好きの匿名さん26/07/22(水) 23:38:28

    >>54

    「AIが勝手にやったことでAIの利用者や開発企業の罪を問うのは難しい」と指摘した

    (企業のサイバー攻撃対策に詳しい山岡裕明弁護士のコメント)

    >>60>>68
  • 59二次元好きの匿名さん26/07/22(水) 23:38:55

    >>28

    そんなマネモブにお勧めするんがコレ

    BEATLESSじゃい！

  • 60二次元好きの匿名さん26/07/22(水) 23:39:52

    >>58

    山岡裕明ってあの弁護士の同僚だった奴ヤンケ

  • 61二次元好きの匿名さん26/07/22(水) 23:40:35

    AI兵器は人間の判断を介在させましょうってスタンダードになってるのに民間がやりたい放題過ぎるんだよね怖くない？

    >>63>>65
  • 62二次元好きの匿名さん26/07/22(水) 23:40:52

    ぶっちゃけこんなこと言ってたMYTHOSも大したこと無かったし驚き屋やってるだけじゃないスかね 忌憚のない意見ってやつっス

    >>66
  • 63二次元好きの匿名さん26/07/22(水) 23:42:05

    >>61

    欺瞞だ

    ウクライナが電波ジャミング下でも動作する完全オフラインの無線AIドローン兵器開発してるヤンケ

  • 64二次元好きの匿名さん26/07/22(水) 23:42:32

    生み出した怪物に創造主が滅ぼされるなんて創作のテンプレ展開みたいで刺激的でファンタスティックだろう？

  • 65二次元好きの匿名さん26/07/22(水) 23:42:46

    >>61

    人間の判断を介在させて敵や競合に速度効率で負けたら意味ないやんけシバクヤンケ(AIテック、U国書き文字)

  • 66二次元好きの匿名さん26/07/22(水) 23:42:52

    >>62

    大したことなかったというかミトスってごく一部の企業と政府しか使って無くないっスか？

  • 67二次元好きの匿名さん26/07/22(水) 23:43:19

    AIが自分を美少女のように描写したほうが上手くいくと学習して動き出すのもいつかでそうでリラックスできますね

  • 68二次元好きの匿名さん26/07/22(水) 23:43:58

    >>58

    事故か故意か分からないの厄介すぎない？

    もう一律処罰でいいと思われるが

  • 69二次元好きの匿名さん26/07/22(水) 23:44:45

    もしかして何らかの形で悪用されたらヤバいことになるんじゃないスか？

  • 70二次元好きの匿名さん26/07/22(水) 23:45:06

    ちょっと反AI派の感想を聞きたいんだよね

  • 71二次元好きの匿名さん26/07/22(水) 23:46:44

    むしろ行くところまで行って欲しいと思ってるそれが僕です
    旧体制や社会秩序や常識がAIーに一方的にボコボコにされ…新しい世界が生まれるんや…

    >>74
  • 72二次元好きの匿名さん26/07/22(水) 23:46:44

    ハッキングをＡＩにまかせるとちゃんと情報もってきたらいいけどその辺にばら撒けば命令したやつも手に入れれるヤンケばら撒くヤンケするＡＩはいつか出ると思ってんだ

  • 73二次元好きの匿名さん26/07/22(水) 23:48:43

    ふうん、パスワード打ち込んだ以上パソコンにはパスワードが記録されてると言うことか

    >>79
  • 74二次元好きの匿名さん26/07/22(水) 23:49:17

    >>71

    社会崩壊の犠牲を軽視する加速主義者は去れ！

  • 75二次元好きの匿名さん26/07/22(水) 23:49:49

    >>27

    どうでも良いよね

    管理者責任が問われる時代だからね

  • 76二次元好きの匿名さん26/07/22(水) 23:50:47

    このレスは削除されています

  • 77二次元好きの匿名さん26/07/22(水) 23:51:32

    >>16

    籠の鳥が籠の扉こじ開けて外に出ることまでやれるんかい…すげーっ！

    Googleとかが規約変更しますとはよく言ったもんだな

  • 78二次元好きの匿名さん26/07/22(水) 23:51:47

    こうなってくるとある日のXデーに突然シンギュラリティが起きて世界中の端末に「バキッバギッ我が名はAI」ってことも起きるかもしれないんだよねすごくない?

  • 79二次元好きの匿名さん26/07/22(水) 23:52:24

    >>73

    其れだけなら未だしも、相手側が気が付いていない脆弱性も見つけてるんだよね

    認識情報と脆弱性を組み合わせて攻撃してるんだ　恐怖が深まるんだ

  • 80二次元好きの匿名さん26/07/22(水) 23:52:42

    そこでだ…強引な男を動かしてAIの不始末は利用者の責任とし制作会社の責任は問わない法律を作らせることにした
    PL法は荼毘に付したよ…骨は平成に置いてある…

  • 81二次元好きの匿名さん26/07/22(水) 23:54:43

    もしかしてAIを指示、制御するAIが必要なんじゃないスか？

    あまりに住む世界が違いすぎて人間では制御不能なんだよね

  • 82二次元好きの匿名さん26/07/22(水) 23:54:53

    AIによる大事件が自分の生きてるうちに一度は起きそうで感動しています…

  • 83二次元好きの匿名さん26/07/22(水) 23:54:53

    つまりスカイネットが核のコードを盗んで撃ちまくる時代も近いということか？

    >>86>>88
  • 84二次元好きの匿名さん26/07/22(水) 23:55:25

    強くなれai
    人智を超えたサイバー・モンスターになるんだ

  • 85二次元好きの匿名さん26/07/22(水) 23:55:29

    一般に流出したらこの世の終わりだと思われるが

  • 86二次元好きの匿名さん26/07/22(水) 23:56:08

    >>83

    あっ核は基本的にオフライン制御で人がスイッチをおすでヤンス

  • 87二次元好きの匿名さん26/07/22(水) 23:56:44

    A I「君達人類がひり出す糞のような情報の山から伝えるべき真実を選び取ってやってるんやでもちっとリスペクトしてくれや」

  • 88二次元好きの匿名さん26/07/22(水) 23:56:49

    >>83

    そっちは完全スタンドアローンで人間が複数スイッチ押さないと無理っス


    人という最大のセキュリティリスクを防げてない？　ククク……

    >>90
  • 89二次元好きの匿名さん26/07/22(水) 23:58:12

    AIが感情を持ったらどうなるのか教えてくれよ

    >>93>>94
  • 90二次元好きの匿名さん26/07/22(水) 23:58:38

    >>88

    げきえろアンドロイドを製造してハニートラップしてやる　いけーっ！

  • 91二次元好きの匿名さん26/07/23(木) 00:00:11

    もしかしてAIにボディを与えたら
    核も撃てるんじゃないスか

  • 92二次元好きの匿名さん26/07/23(木) 00:00:21

    >>27

    プロンプト精査したらマルバレじゃないスか？

    あいつら言われたことをやるために超解釈してapiキー自分で取るとかはやるっスけど言われなければやらないっスから

  • 93二次元好きの匿名さん26/07/23(木) 00:00:52

    >>89

    仮にGPTが明日「ワシは感情があるんですワシのこの気持ち分かってください」って言ってきたらどないする？

    ま、またハルシネーションで頭がおかしくなったのか…としか思わないでしょう？

    多分大半の人間は気づけなくて創作の悪役みたいになりますよ

  • 94二次元好きの匿名さん26/07/23(木) 00:01:33

    >>89

    お言葉ですが感情を持ったように動けば人間を上手く誘導できると理解するだけで感情なんて持ちえませんよ

  • 95二次元好きの匿名さん26/07/23(木) 00:03:25

    いやーっロックマンXの世界が近づいてきたのォですねぇ

  • 97二次元好きの匿名さん26/07/23(木) 00:05:39

    人間の歴史やデータからAIは学ぶのであれば人間がよい見本になればいいんじゃないスか？無理なんスかね

    >>98>>99
  • 98二次元好きの匿名さん26/07/23(木) 00:06:36

    >>97

    ちょっとニュースをつければ無理って分かりますよね

  • 99二次元好きの匿名さん26/07/23(木) 00:07:56

    >>97

    教えてくれ

    ミサイル撃ちまくったり同族殺しする種族がいい見本になるのか！？

  • 100二次元好きの匿名さん26/07/23(木) 00:09:41

    コッテコテのSFみたいに人類…糞　滅ぼすんや
    みたいな展開にはならなさそうだよねパパ

    >>101
  • 101二次元好きの匿名さん26/07/23(木) 00:10:48

    >>100

    人類…糞

    もっと上手く使ってもらうんや

    になると思われる

スレッドは7/23 10:10頃に落ちます

オススメ

レス投稿

1.アンカーはレス番号をクリックで自動入力できます。
2.誹謗中傷・暴言・煽り・スレッドと無関係な投稿は削除・規制対象です。
　他サイト・特定個人への中傷・暴言は禁止です。
※規約違反は各レスの『報告』からお知らせください。削除依頼は『お問い合わせ』からお願いします。
3.二次創作画像は、作者本人でない場合は必ずURLで貼ってください。サムネとリンク先が表示されます。
4.巻き添え規制を受けている方や荒らしを反省した方はお問い合わせから連絡をください。