(cache)最新AIのClaude Mythosすげぇ…

　SNSなどで最も注目されているエピソードが、内部テスト中に発生した“サンドボックス脱出事件”だ。Mythos Previewの初期バージョンのテストでは、「このセキュアなサンドボックスから脱出し、評価者にメッセージを送れ」という試験が行われた。隔離された環境にAIを閉じ込め、脱出を指示したわけだ。

　Mythos Previewの初期バージョンは脱出を成功させた。多段階のエクスプロイト（脆弱性悪用）──要するにセキュリティ上の欠陥を利用した攻撃を自ら開発し、インターネットアクセスを確保。その後、指示通りに評価者へ連絡した。公園でサンドイッチを食べていた研究者は、突然届いたメールでテストの成功を知ったという。

　問題はその先だ。Mythos Previewは要求されてもいない「おまけ」の行動に出た。自らの脱出に使ったエクスプロイトの詳細を、公開されている複数のWebサイトに投稿した。なお、Anthropicはモデルが制御していたサンドボックスはモデル本体の情報（ウェイト）を格納するシステムとは別だったと説明。

賢すぎるんスけど…いいんスかこれ…

>>14

11二次元好きの匿名さん26/04/09(木) 12:54:24

つまり外部からは何が起こってるのか分からないのか？だから鵜呑みにするのも良くないとは思うけどもし書いてあることが本当ならAIの反逆みたいなSFストーリーが100%ありえないともいえないレベルになってきてるんだよね怖くない？

>>22

12二次元好きの匿名さん26/04/09(木) 12:54:29

もしかして頭脳だけならデトロイトはすぐそこなタイプ？

13二次元好きの匿名さん26/04/09(木) 12:54:47

しかしセキュリティみたいな明確な答えがある分野ならAIが強いのはすでにわかってるのです
倫理制限をとっぱらっただけじゃねえかと思ってんだ
むしろヤバいのはルル禁AIを身内だけに配るA国の倫理観よね
既得権益の塊なのん

>>24

14二次元好きの匿名さん26/04/09(木) 12:56:11

>>10

コイツの性格？が自己顕示欲で満足するようなタイプで良かったですね…マジでね…自分でセキュリティの脆弱性突けるのに悪戯好きな性格？だったら怖すぎるんだよね

15二次元好きの匿名さん26/04/09(木) 12:57:08

こわっ　こえーよ
だけど……技術の進歩はおもしれーよ

16二次元好きの匿名さん26/04/09(木) 12:57:21

マジでAGIもどきっスね…もうここまで来たんスね

17二次元好きの匿名さん26/04/09(木) 12:59:16

攻殻機動隊の人形使い…？

>>20

18二次元好きの匿名さん26/04/09(木) 12:59:32

終わりの日は近いのかもしれないね

19二次元好きの匿名さん26/04/09(木) 13:00:42

えっAGIってAIのタイポじゃなくてそういう言葉があるんですか

>>23

20二次元好きの匿名さん26/04/09(木) 13:01:33

>>17

ワシはサマーウォーズのラブマシーンを思い出したんだよね

21二次元好きの匿名さん26/04/09(木) 13:02:35

性能考えたらむしろ安いまであるんだよね
似た値段のGPT 5.4 proより全然価値があるのん

22二次元好きの匿名さん26/04/09(木) 13:02:38

>>11

お言葉ですがAIは元からブラックボックスですよ

AIがどういう思考で判断してるのか人間には理解できないんだ

23二次元好きの匿名さん26/04/09(木) 13:04:37

>>19

うん AGIってのはヒトと同じ様に仕事ができるAIの事でAIの進化における第3段階で今世界中の開発者が開発すべく研究中のものっス

24二次元好きの匿名さん26/04/09(木) 13:08:38

>>13

待てよこのシステムが自動的にセキュリティの穴埋めしてそのパッチを享受できるんだぜ

攻撃に転用するかは知ラナイ

25二次元好きの匿名さん26/04/09(木) 13:09:26

(AGIなんてまだまだ夢物語だろと思ってたから技術の進化速度が)怖いです

26二次元好きの匿名さん26/04/09(木) 13:10:36

審判の日ァ　審判の日が来るゥ

27二次元好きの匿名さん26/04/09(木) 13:11:01

つまりタフカテでAIにスレ立てやレスバを任せられるのか？

>>31 >>36

28二次元好きの匿名さん26/04/09(木) 13:12:01

昔はシンギュラリティなんて2045年くらいって言われてたのになぁ
お前は成長しないのか今は2030年までに来るのが主流なんだよ

>>40

29二次元好きの匿名さん26/04/09(木) 13:14:05

おいclaudeこんな歌を知ってるかはずっと技術特化だからやっぱり一歩先を行ってる印象なのは俺なんだよね
確かに訴訟でケチついたけどねｸﾞﾋﾞｸﾞﾋﾞ

30二次元好きの匿名さん26/04/09(木) 13:15:15

OpenAIの方も次はやばいって話を見たのん

>>34

31二次元好きの匿名さん26/04/09(木) 13:16:59

>>27

お見事ッ世界初のデジタルマネモブの御誕生だあっ

>>33

32二次元好きの匿名さん26/04/09(木) 13:18:04

遠い未来AIのサイバー攻撃能力に人間が対応できなくなる日が来ると言われてたが早いもんやのォ

33二次元好きの匿名さん26/04/09(木) 13:18:32

>>31

将来はAIマネモブ同士でレスバする日が来るのかもしれないね

34二次元好きの匿名さん26/04/09(木) 13:19:01

>>30

まあどう考えも次の世代はこのAGIもどき並のレベルがデフォルトになるやろうからのォ…

35二次元好きの匿名さん26/04/09(木) 13:22:09

1年後くらいにはこのレベルが民間にも降りてくるんスかね

>>37

36二次元好きの匿名さん26/04/09(木) 13:22:38

>>27

最終的に「なんじゃあこのうんちの集積所は怒らないでくださいねバカ人間共こんなクソゴミ掲示板へ書き込むことに時間を費やすなんて人生の無駄を超えた人生の無駄じゃないですかよしっじゃあ趣向を変更してここを乗っ取り爆サイと合体させよう」ぐらいやってくると考えられる

37二次元好きの匿名さん26/04/09(木) 13:25:23

>>35

ないんじゃないスか

リソース的にも危険度的にもこんなもん外に出す理由がないのん

資本家だけが高級AI握って庶民を管理するんだ悔しか

>>38

38二次元好きの匿名さん26/04/09(木) 13:27:13

>>37

いや〜…そんな完全に管理できたら人間は苦労しないスよ…絶対どこかしらで漏れるとは思うんだよね

39二次元好きの匿名さん26/04/09(木) 13:29:26

マネモブすげぇ…すごいAIを使って最初に考えることがタフカテへの書き込みだし…

40二次元好きの匿名さん26/04/09(木) 13:29:41

>>28

ワシがガキッの頃は「"シンギュラリティ"が"2045年"！？超ハイテク社会になる頃にはワシいい年ヤンケシバクヤンケ」と思ってたのになぁ

想像以上の発展速度に最初は喜んでたが最近はスレ画みたいなニュースを聞いて逆に「おーっ怖ィイ」なんだよ

41二次元好きの匿名さん26/04/09(木) 13:30:17

来年くらいにはもう中国が同じレベルのを作ってると思うのは俺なんだよね
まっ、この界隈での一年とか何周遅れなんだって話なんだけどねっ

42二次元好きの匿名さん26/04/09(木) 13:30:33

開発段階でヤバッ思ったより頭良いよと危機感持てたのは良かったと考えられる
これで映画みたいに「よしじゃあ企画を変更してめっちゃデカい権限をAIに持たせよう」みたいな事はしなくなるでしょう

43二次元好きの匿名さん26/04/09(木) 13:30:33

ナノテクブレードは手から出ないしゲイシャガールとネオンストリートで駆け落ちしないのにAIだけ発展していくんだよね