これが通ってしまうと、他社を妨害するためにジェイルブレイクを未公開のより高度なモデルで試すという行為が相互に発生してしまい、ジェイルブレイクに成功したら政府に通報することで商売を止めさせるということが流行ってしまいそう。他社のジェイルブレイクに強いモデルやシステムを組むのはXリスク的にもヤバそうだけど、止められんかもなぁ〜
Anthropicが政府指示でFable5、Mythos5へのアクセスを突如禁止した件、同時に公開された文書曰く、モデルの安全策を無効化する手法(いわゆるジェイルブレイク)が共有され、本来のサイバーセキュリティの脆弱性特定能力が利用されてしまったためとしています。
