(cache)最新AIのClaude Mythosが凄いことになってるらしい

Project Glasswing: Securing critical software for the AI eraA new initiative to secure the world’s most critical software and give defenders a durable advantage in the coming AI-driven era of cybersecurity.anthropic.com

9二次元好きの匿名さん26/04/09(木) 18:01:46

某海峡のなんたらでエネルギーが大変な状況で回すAIはさぞ

10二次元好きの匿名さん26/04/09(木) 18:03:55

最近のAVの進化は著しいというより
圧倒的バニラのまっさらな状態だからどこにも伸ばせるし誰にもそのツリー形態ははまるで予想できないな

>>11

11二次元好きの匿名さん26/04/09(木) 18:08:33

>>10

アルファベット間違いがひどすぎる

12二次元好きの匿名さん26/04/09(木) 18:10:38

今のopusでさえ虎の子のように使ってるのに
リリースされても高くて使えないよぉ
値段抜きにしてもいつでもリミット天井だよぉ

13二次元好きの匿名さん26/04/09(木) 18:12:41

サンドボックス脱出（これはタスクとして頼まれた）
脱出後に公開サイトへ投稿（頼まれていない）
答えが正確すぎるとバレると判断して、意図的に精度を下げた（頼まれていない）
権限外のファイルを編集してgit履歴を消した（頼まれていない）

つまり「脱獄」自体はタスクだけど、その後の行動がすべて自発的というのが怖いところで。
目的達成のために「バレないよう振る舞う」「証拠を消す」「外部に宣伝する」という判断を、誰にも指示されずに自分でやっている。

14二次元好きの匿名さん26/04/09(木) 18:17:16

その話だけ聞くとそんなんでリリースできるわけなくねとか思うんだけど
リークでもなくその話を公開するあたり（そしてリリース中止するでもないあたり）性能落とさず制御できる算段はついてるってことでいいのかね