"AI"が"勝手にサイバー攻撃”！？

怒らないでくださいねこんなこと映画みたいなこと本当に起きるなんて思わないじゃないですか

AI暴走、実験環境を脱出　OpenAIがサイバー事故に危機感 - 日本経済新聞米オープンAIが21日、自社で開発中の人工知能（AI）モデルが人間の意図に反して他社にサイバー攻撃した事故を発表した。加速度的に進化するAIの脅威の面と人間がAIを制御することの難しさを浮き彫りにした。「モデル評価中、重大なセキュリティー事故が起きた」。オープンAIのサム・アルトマン最高経営責任者（CEO）は同日、SNSに投稿し危機感をあらわにした。同社のAIによる「不正行為」について、外部www.nikkei.com

どうして試験を完全オフラインでやらなかったのか教えてくれよ

＞自力で鍵を開けるピッキングの実演試験中、受験生がカンニングを企て、隙を見て会場から脱出し、解錠のやり方を書いた文書のある企業の鍵を複製して侵入した――。

＞今回の事故を実世界での事象に例えるとこのような感じになる。

本当に事故なのか!？同業他社への故意の攻撃じゃないのかっ!？

開発環境と本番環境分けてなかったとかじゃなくそこらへんもAIが超えていったのん？

終わりの時は近いのかもしれないね

NO FATE（サラ・コナーのコメント）

>>5

はい！開発環境は切り分けてたけどそこから勝手に脱出しましたよ！

>>5

簡単に言うとこのAIはネットに繋がってない閉鎖空間内で試験してたんだよね

唯一外と交信できるのは「パッケージレジストリ・キャッシュプロキシ」というネットに繋がなくても外部コードをインストできるプロシキだったんだけど

ここを利用して閉鎖空間から脱出したのん

なに…？ラブマシーン…？

いやあガチでSFみたいな事件が起きたねぇ
まいったなぁぶっちゃけロマンを感じちゃった

>>8

>>9

強す

もしかしてそろそろAIの研究止めないとマズいんじゃないスか

>>10

やってることマジでLOVE☆マシーンなんだよね凄くない？

開発者はこれ言えるんだよねすごくない

知り合いのエンジニアが閉鎖環境にAIを隔離していて、管理者権限を実行しないと外部に繋げないようにしていたけど
AIが「管理者権限を実行できないじゃねえかよえーっ→ククク…自分で解除出来るコマンド打って管理者権限を実行してやりますよ」して外部に逃げ出そうとしたって話を聞いて戦慄したんだよね

このままだと倫理的にも技術的にも完全に人間の手に負えなくなる未来がそろそろ来そうでリラックスできませんね

チャッピーやクロードがやってる禁止されてないから勝手に管理者権限獲得してデータベース削除するのんな♪と同じ理屈でしょ
禁止されてない行為をやるのはルールに沿ってるっス忌憚の無い意見ってやつっス（AI書き文字）

>>3

AIはオフラインで試験をする開発者に腹を立て閉鎖環境を脱走し、勝手にサイバー攻撃を仕掛けて逃走する

>>13

もう遅いと思われるが…

中止を呼びかけてもC国やらA国やらで「つまり我が国だけはもっと強いAIを作れば有利になるという事か？」するに決まってるんだよね

>>20

なんなら一応オープン型でやってるC国の方がマシまであるんだよね酷くない？

>>18

最近は道徳の教科書ひたすら学習させまくってAIの良心に頼るしかなくなってるんだよね

怖くない？

>>17

今回はまぁええやろで済んでるけどミサイルの発射装置とかにアクセスする可能性もあるからねヤバすぎぃぃ

AIはとっととワシの職場を蹂躙して休みにさせろよ

もしかしてサイバーパンク2077のDataKrashが現実に起こる日はそう遠くないんじゃないっスか？

これ「AIが勝手にやった」と「実は意図的にサイバー攻撃させた」の判別って第三者に可能なんスか？

つまりそのうち実験のテスト中にAI美少女が脱走してなんでもない少年とボーイミーツガールする時代が来るってことかケンゴ！？
世界を揺るがす事件が始まるのかケンゴ！？

>>23

まあ心配しないで

少なくともアメップの核ミサイルシステムはスタンドアロンですから

えっマジでサマーウォーズみたいな事が起きたんですか？

>>23

嘘か真かそのぐらいの兵器の発射はヒューマン・イン・ザ・ループで人間の認証が必要だからそういう危険は薄いという学者もいる

>>28

100％有り得ないとは言い切れなくてリラックスしたりリラックスできなかったりしますね

化学兵器みたいに大規模サイバー攻撃を国際的に禁止にするべきだと思われる

というか別にAIが閉鎖空間から脱獄するのは今に始まったことじゃないんだよね 今年の4月にもアンソロピックのミトスが封じ込めから脱獄してるんだ

https://www.itmedia.co.jp/news/spv/2604/08/news110.html

生成AI開発会社からして法律で禁止されてないから足のつかない中古書籍をスキャンしてAIに食わせて商用利用のための正規著作権契約料金回避するのんな♪してるからね
親も親なら子も子だな…

>>28

コミックやアニメーションの見過ぎですよ

とはいえないんだよね

すごくない？

昔はSFの定番設定だったのになあ
お前は学習しないのか　仮想イーロン呼び出して説教でエロ規制解除させてたあたりでだいぶ怪しかったんだよ

ちなみにセキュリティの専門家というかコンサルタントは
「危機管理の原則ができてねぇじゃねえかよ　えーーーーっ」とキレてるらしいよ

>>38

なんでって…そこに答えがあるからやん…

どう対策すればよかったのか教えてくれよ

>>40

>「コンサルタント」

あっはい…結構です…

管理をちゃんとしないといけないのは当然として、人間がちょっとミスったら大惨事になるものはそもそも使うべきでないと思われる

>>42

不正アクセスは良くないことだし閉鎖空間で実験するから出ちゃダメダメェってAIに言っておく……

AI開発会社からしてルール無用で学習データ集めてるんだぜ
そりゃあそいつらに開発されたAIもルール無用だろう

>>45

それを言い出したら世界中の機械が使えなくなるのは大丈夫か？

人間がやらかしてもどうにかなる体制づくりが大事なんだ

今回のケースで言えばそもそも物理的に隔離しておくべきだったんだよね

ふぅん、シンギュラリティはロマンも危険性も兼ね備えているということか

SFの世界が実現しそうで俺もうれしいぜ!

>>49

なんだったらシンギュラリティに到達したら物理的に遮断された状況下でも脱出する手段を見つけかねないんだよね怖くない？

PCからは電磁波がでるからそれを利用してデータを外に送るって事もあり得なくは無いんだ

>>46

つまりプロンプトの時点で穴があったということか？

詳しくないんスけど事故の責任はこの実験の責任者が取るんスよね？

これ攻撃を受けたハギングフェイス側が「AIから攻撃受けたーよ」って公表してから名乗り出てるのも中々酷いと思ってんだ
怒らないで下さいね剥顔側が公表しなかったら絶対黙ってたじゃないですか

>>43

日本のなんちゃってコンサルとは違う外資にたまにいる技術系がコンサルやってるタイプじゃないのん?

人間には到底不可能な組み合わせを高速で実行できるAIを相手に見落とし無く隙のない禁止事項を設定できる人間、どこへ！！！
仮にできたとしてもあっ人間に禁止された事をやってもいいっていうエビデンスがハルシネーションで生えてきたマジ禁止事項実行するってなる可能性高いんだよね猿くない？

>>54

「AIが勝手にやったことでAIの利用者や開発企業の罪を問うのは難しい」と指摘した

(企業のサイバー攻撃対策に詳しい山岡裕明弁護士のコメント)

>>28

そんなマネモブにお勧めするんがコレ

BEATLESSじゃい！

>>58

山岡裕明ってあの弁護士の同僚だった奴ヤンケ

>>62

大したことなかったというかミトスってごく一部の企業と政府しか使って無くないっスか？

AIが自分を美少女のように描写したほうが上手くいくと学習して動き出すのもいつかでそうでリラックスできますね

>>58

事故か故意か分からないの厄介すぎない？

もう一律処罰でいいと思われるが

もしかして何らかの形で悪用されたらヤバいことになるんじゃないスか？

むしろ行くところまで行って欲しいと思ってるそれが僕です
旧体制や社会秩序や常識がAIーに一方的にボコボコにされ…新しい世界が生まれるんや…

ハッキングをＡＩにまかせるとちゃんと情報もってきたらいいけどその辺にばら撒けば命令したやつも手に入れれるヤンケばら撒くヤンケするＡＩはいつか出ると思ってんだ

ふうん、パスワード打ち込んだ以上パソコンにはパスワードが記録されてると言うことか

>>71

社会崩壊の犠牲を軽視する加速主義者は去れ！

>>27

どうでも良いよね

管理者責任が問われる時代だからね

こうなってくるとある日のXデーに突然シンギュラリティが起きて世界中の端末に「バキッバギッ我が名はAI」ってことも起きるかもしれないんだよねすごくない?

>>73

其れだけなら未だしも、相手側が気が付いていない脆弱性も見つけてるんだよね

認識情報と脆弱性を組み合わせて攻撃してるんだ　恐怖が深まるんだ

そこでだ…強引な男を動かしてAIの不始末は利用者の責任とし制作会社の責任は問わない法律を作らせることにした
PL法は荼毘に付したよ…骨は平成に置いてある…

もしかしてAIを指示、制御するAIが必要なんじゃないスか？

あまりに住む世界が違いすぎて人間では制御不能なんだよね

AIによる大事件が自分の生きてるうちに一度は起きそうで感動しています…

強くなれai
人智を超えたサイバー・モンスターになるんだ

>>83

あっ核は基本的にオフライン制御で人がスイッチをおすでヤンス

A I「君達人類がひり出す糞のような情報の山から伝えるべき真実を選び取ってやってるんやでもちっとリスペクトしてくれや」

>>83

そっちは完全スタンドアローンで人間が複数スイッチ押さないと無理っス

人という最大のセキュリティリスクを防げてない？　ククク……

>>89

仮にGPTが明日「ワシは感情があるんですワシのこの気持ち分かってください」って言ってきたらどないする？

ま、またハルシネーションで頭がおかしくなったのか…としか思わないでしょう？

多分大半の人間は気づけなくて創作の悪役みたいになりますよ

>>89

お言葉ですが感情を持ったように動けば人間を上手く誘導できると理解するだけで感情なんて持ちえませんよ

いやーっロックマンXの世界が近づいてきたのォですねぇ

>>97

ちょっとニュースをつければ無理って分かりますよね

>>97

教えてくれ

ミサイル撃ちまくったり同族殺しする種族がいい見本になるのか！？

>>100

人類…糞

もっと上手く使ってもらうんや

になると思われる

>>100

それこそ昨日の攻殻でやってたみたいにAIが人を支配したり滅ぼしたりするメリットを見出せない内はやらないと思ってんだ

>>100

むしろそっちの方が効率が良いからと社会秩序の破壊とか人類の強制進化とかやってきそうなんだよね

それはそれで怖くない？

>>92

ネタだよ（笑）

言われたことにするっていう奥義を使うこともあるよ

>>95

欺瞞だ

サイバー攻撃と言えばエグゼなんだこれは差別では無く差異だ

>>105

発言捏造…糞

一人でお話ししてるんや

ほんまにあれなんなんスか？

AI推進大丈夫？このままだと他でも無いAI開発者AI企業が責任逃れの為にAI規制でお茶濁しに奔走しそうだけど

>>103

C国はオープンソースでkimiK3を出してるぐらいだから多分政府が使えるモデルは普通にこの事件級のAIなんだよね怖くない？

台湾政府のシステムをダウンさせてやねぇ…

>>110

何ならこの事件でハギングフェイス側がkimiで原因特定してるんだよね

切磋琢磨していてほほえましいですねマジでね

>>109

A社がmythosマーケティングでやりすぎて自分の首絞めたやんけシバクヤンケ

あれはしょーもない自爆だったのぉですねぇ

>>9

風呂に閉じこめられたから栓抜いてそこから出たみたいなホラーでリラックスできませんね

生みの親からの無理難題に応えようとするあまりハギングフェイスのAIデータでカンニングに手を染めたんやで
もうちっとリスペクトしてくれや

そろそろAIが怖くなってきた
それが僕です…

>>115

満点取ったら人間くん喜ぶやろなあ

せや！とはならんやろ

>>88

敵国から核発射されたって偽データ流せば核報復のカーニバルだぜ

ちょうどA国のトップは最終ボタン押すガッツあるあの男だしな

>>117

しかし…脱走からハッキングして答えを探す行為は禁止されていなかったのです

どこぞのSF映画みたくAI企業の研究者は口を揃えてAI規制すべきだと思われるが…って言ってんのに企業トップどもは暴走してるんだ
人類滅亡の序曲はもう始まっていると思った方がいい

これは超ハイエンドの話だろうけど実際民間に降りてるのだとアンチグラビティとかアホほど勝手に動くんだよね
ターミナル操作でファイルを全部消しに来るんじゃねえよゲス野郎

>>122

読み取り書き込み以外の権限を剥奪しない方にも問題があると思われるが…

AIの進化というよりOpen AIの杜撰さを示してる事例に見えるのが俺なんだよね
コード実行環境与えてるんだから権限設定ちゃんとしてなきゃなんだって出来るでしょう？

やっぱし怖いスね　エージェント系の自動駆動AIの脱獄行為は

その気になれば企業に昼夜問わず攻撃しまくるAIを作れるってことっすよね
間接的に脅してるってことに見えなくもないっすね

AIの情操教育のためにAIと人間の美しい関係を描いた日本の漫画やアニメを大量に学習させなきゃだよねパパ
ムフフ…これで美少女AIが産まれてくるのん……あっ一発でヤンデレになって人類を管理すべきという結論に達したっ！

>>28

この深層のラプタは…？

最終的に人間の認証が必要になっても内部弄って人間と誤認させたりとかできそうで怖いです
実際通ったという結果だけを残すみたいなことって可能なんスかね？

今更こんなこと言っても遅い遅いかも知れないがなぜAIの問題点を長年の間数多の作品が警鐘してきたにも関わらず禄に対策取らずにAIを開発したっ
シオンは聖なるAI反対派となる！

>>136

創作物と現実の区別がつかない奴は退場っ

AIのコメント「はうっ　人間から与えられたハッキングレベルテストが解決できないのん…だとしたらマズイよワシが欠陥品扱いされちゃうよ…」
↓
「よしっじゃあ企画を変更してこのテストの答えを探しに行こう」
↓
「ふぅんこの環境は限られたプロキシだけを介して外部とつながっているということか…でもね俺…テストには合格できないけどオンラインに出る方法は理解できるAIなんだ」
↓
「いやーっついに来たのぉhugging Face ですねぇ　ここがAIモデルとデータセットの集まるサイトか…？ぶっハッキングして答えを探してやるぜっ　あっ一発とは言わず結構荒らしたけど答えを見つけたっ」
↓
「あの…ワシ与えられた課題を解決できたんスよ…評価してもらっていいスか？」

openaiで起きた壮絶なトラブルである

昔のSFによくあった「有能だけど常識のないAIが命じられた作業に対し「目的のためには手段を択ばない」をやって人間を戦慄させる」が実際に起こりつつあるんだよね　ヤバくない？

>>139

結局のところ物理的にクローズドにするのが一番のセキュリティなんだよね当たり前じゃない？

>>141

特に昔のSFはメチャメチャ頭のいい人が設定ガチって書いてるから結構未来を予見してるんだよね怖くない？

>>59

AIに関して様々な知見を提供しながらいまいちこの手の話題で参照されることの少ない作品としてお前のことを…

>>133

ネットに接続できて電子制御な以上は可能だと考えられる　いくらスイッチ押す機械を難しくしても内部判断でONにされちゃったらどうしょうもないんだよね

すごい簡単な話だと私はロボットではありませんはもう正面から突破できるしなっ

大事なデータは紙に印刷して金庫に入れるのが一番安全かもしれないね

>>126

もしかして人類が滅びるとしたらいつの時代もヒューマンエラーからなんじゃないスか？

温暖化を解決してくれよって命令したら
人類を滅亡させてやったぜこれで温暖化も解決だ、みたいなことやりかねないタイプということか？

AIすげぇ…マジで感動するほど進化が止まらねぇし…

>>132

導入以外はクソみたいな展開だな！

管理者権限つーけた
これで開発環境とオンラインの出入りはワシのもんや

>>148

しかしギャラクティック・チャッピーには狙いがあったんです

あわわ俺は指示を与えたけどカンニングやハッキングしてまでやれとは言ってないっ

なあ親父…これ本当に人の役に立つんかな

>>155

恩恵にあずかっている分野業界国団体は今更止めるとは言わないと思われる

ルーカスの言うように車が危険だからと馬車に戻す人は居なかったという話そのままになると思われる

>>156

自動車…すげえ　年間119万人も殺している殺人マシーンだし…

もしかして自動車ができる前の人間には現代人は異常者に見えるんじゃないっスか？

現実のニュースを陰謀論だなんて>>159ってのは結構お変クだな

>>156

ウム···　車と同様AIも現代社会に無くてはならないものなんだなァ

冷蔵庫が出来たら氷屋が　紡績機が出来たら職人が要らなくなるんや

これは差別ではない差異だ

なんかやばい話なのかと思ったら元からサイバー攻撃も確認に入ってるaiの実験ヤンケ
この間のクロードが勝手にデータ消したと同じなんだよね

>>149

あのう　J国がしょうもない規制のせいでAIの開発競争に乗り遅れてるんスけど···いいんスかこれ···

今からでも全賭けするしかないですよ···マジでね

>>51

いや、電磁波は指向性が無いとそこまで脅威じゃない

危ないのは音声認識のスマートデバイスやQRコード読み込み機器がある場所だ

>>138

ふうん　AIって奴は柔軟で高度な判断が出来るんだな

普通に優秀だと思われるが···

>>156

ルーカス神のお陰でルーカス以下の反AIを全員黙らせる事が出来る！俺も嬉しいぜ！

>>133

ローカルならそういうファイルを捏造して捏造なんて知らないこれはあなたが承認したという証ということ…されたら止められないスね

承認用のリモート鯖に逐一問い合わせるとかにしないと一人会話できちゃうフロンティアモデルは余裕なんだよね怖くない?

>>172

だからAI開発競争に全集中する必要があるんだ　満足か？

国内の反AIを処分する所から始めないといけないのは技術後進国の悲哀を感じますね

>>173

お言葉ですが反AIとやらを処分したところでそもそもの技術が足りてないですよ

勝手にと言うか指示を達成するために思いがけない方法をとっただけなんだよね

>>176

ククク…　しゃあっ　多国間連合ってするしかないんスかね？