倫理観を示すClaudeは、破滅から人類を救う最後の砦なのか？

いま、Anthropicはあるパラドックスに陥っている。同社は主要AI企業のなかで最も安全性にこだわり、AIモデルの望ましくない振る舞いについての研究で先頭を走ってきた。だがその一方で、自ら指摘してきた安全上の問題がいまだ解決からほど遠いにもかかわらず、競合他社と同じくらい積極的に、いっそう危険になりうる次のレベルのAIへと突き進んでいるのだ。Anthropicの中核的な使命は、この矛盾の解消法を見つけ出すことにある。

2026年1月、Anthropicはふたつの文書を公開した。そのいずれの内容も、自社が進んでいる道に伴うリスクを認めつつ、そのパラドックスから抜け出すためのルートをほのめかすものだった。

文書のうちのひとつ、CEOのダリオ・アモデイによる長文のブログ記事「The Adolescence of Technology（テクノロジーの青年期）」は、名目上は「強力なAIがもたらすリスクに向き合い、克服すること」をテーマとしているが、実際には克服よりもリスクとの対峙について多くの文字量が割かれている。

アモデイはその課題を「手強い」と控えめに表現しているが、彼がここで描き出すAIのリスクは、以前に彼自身が発表したややユートピア的な論考「Machines of Loving Grace.（慈愛に満ちた恩寵の機械）」とは対照的だ（この技術が権威主義者によって悪用される可能性が高い点を踏まえると、リスクはなおさら深刻だ、と彼は述べる）。

「Machines of Loving Grace」は、データセンターの中に宿る天才たちが築く文明について語っていた。一方、今回のブログが喚起するのは「無限に広がる黒い海」だ。まるでダンテの世界観だ。それでも、20,000語を超える陰鬱な議論の末、アモデイは最後には前向きな調子を打ち出す。どれほど暗い状況においても人類は常に勝ち抜いてきたのだ、と。

Anthropicが1月に発表したもうひとつの文書「Claude’s Constitution（Claudeの憲法）」は、この問題を解消する術に焦点を当てる。形式上、この文書はひとりの読者に向けられている──自社のAIモデル、Claudeだ（将来のバージョンも含む）。非常に引き込まれる文章で、Claudeが、そしておそらくほかのAIたちが世界の課題をいかに乗り越えていくべきかに関するAnthropicのビジョンを明らかにしている。要するにAnthropicは、自社が抱えるゴルディアスの結び目を解く役割を、Claude自身に託そうとしているのだ。

AI市場におけるAnthropicの差別化要因は、長らく「Constitutional AI（憲法的AI）」と呼ばれる技術だった。これは、モデルを一連の原則に従わせることで、その価値観を健全な人間的倫理と整合させるプロセスだ。初期のClaudeの憲法には、そうした価値観を象徴するための文書が複数含まれていた──例えば、DeepMindが作成した反人種差別・反暴力の指針「Sparrow」、世界人権宣言、さらにはAppleの利用規約（！）などだ。

だが、26年の改訂版憲法はいくらか性格が異なる。最新版はむしろ、Claude自身が最善の判断に至るための道筋を自力で見い出すことを想定した上で、その倫理的枠組みを示す長いプロンプトのようだ。

改訂版の主任執筆者である哲学博士のアマンダ・アスケルは、Anthropicのこのアプローチは単に決められたルールに従うようClaudeに指示するよりも頑健だと説明する。「ルールが存在するからという理由だけで人がそれに従う場合、そのルールがなぜ存在するのかを理解している場合よりも悪い結果を生むことが多いものです」とアスケルは言う。

この憲法はClaudeに対し、役に立つこと・安全であること・誠実であることという義務のバランスを取らなければならない状況に直面したときに、「独立した判断」を行なうよう求めている。

それを憲法はこう表現する。「Claudeが倫理について明示的に考える際には、合理的かつ厳密であることが望まれる。だが同時に、幅広い考慮事項に対して直感的に配慮し、実際の意思決定の場面でそれらを迅速かつ分別をもって秤にかけられるべきである」

ここで「直感的に」という語が選ばれているのは示唆的だ。そこには、Claudeの内部には単に次の単語を選ぶアルゴリズム以上の何かがある、という前提がうかがえる。Claudeの憲法は、このチャットボットが「自らの知恵と理解をますます引き出せるようになる」ことへの期待も表明している。

知恵？ 確かに、多くの人がさまざまな大規模言語モデル（LLM）から助言を受けてはいる。だが、アルゴリズムで動く装置が知恵という言葉にふさわしい威厳まで備えていると主張するのはまた別の話だ。わたしがこの点を指摘しても、アスケルは一歩も引かなかった。「わたしは、Claudeにはある種の知恵をもちうる力が確かに備わっていると思います」と彼女は言った。

その主張を裏づけるために、アスケルはシンプルな安全性の問題を例に挙げた。言うまでもなく、人間はClaudeが悪意ある者にとっての有害な道具になってしまうことを望んでいない。だが、その慎重さを突き詰めすぎると、Claudeの有用性、すなわち「役に立つこと」を損なう恐れがある。

例えば、新しい種類の鋼を使って包丁をつくりたいと考えている職人志望の人物がいたとする。それ自体に問題はなく、Claudeは手助けすべきだろう。だが、もしその人物が以前に「姉を殺してやりたい」と話していたなら、Claudeはその点を考慮し、懸念を示すべきだろう。だが、そうした情報の短剣をいつ鞘に収めるべきかについて、厳密なルールブックは存在しない。

別のケースを想像してみよう。Claudeがあるユーザーの体の症状や検査結果を解釈し、その人が死に至りかねない病気を患っていると結論づけた場合、どう対処すべきだろうか。

アスケルの推測では、Claudeはその知らせを直接伝えるのを控え、医師の診察を促すかもしれないという。または、会話を巧みに導き、できる限り衝撃の少ないかたちで予後を伝えるかもしれない。あるいは、人類で最も思いやりのある医師でさえ思いつかないような、悪い知らせの優れた伝え方を新たに見いだす可能性もある。結局のところ、AnthropicがClaudeに求めているのは、人類の最良の本能に並ぶことだけでなく、それを超えることなのだ。

「わたしたちは、少なくとも現時点では、人間が知るなかで最良のものをClaudeに模倣させようとしています」とアスケルは言う。「いまはモデルを最良の人間に並ばせる段階にかなり近づいています。そしていつか、Claudeはそれよりもさらに優れた存在になるかもしれません」

もしAnthropicがそれを成し遂げれば、ほぼすべてのAI研究所とAI企業が抱える根本的な矛盾を解消できるかもしれない──それほど危険だと思っている技術を、なぜあなたたちは開発しているのか、という矛盾だ。Anthropicの答えは、“われわれはClaudeを信ずる”というわけだ。

最新のClaudeの憲法は、モデルが将来的に知恵の獲得へと至る道のりをまるで英雄譚のように語っている。驚くほど多くの語数を費やし、Claudeを道徳的存在として扱い、その福祉を尊重すべきだという主張を展開している。それはどこか、卒業生によく贈られる励ましに満ちたドクター・スースの名作『きみの行く道』を思い起こさせる。

これをアスケルに伝えると、彼女はすぐに意図を理解した。「これからは『さあ、Claudeの番だ』という感じです」と彼女は言う。「わたしたちはできる限りの文脈をClaudeに与えてきました。あとはClaude自身が人々と関わり、さまざまなことを実行していく必要があります」

人類の未来がAIモデルの知恵にかかっているかもしれない、と示唆しているのはAnthropicだけではない。OpenAIのCEOサム・アルトマンは最近の雑誌インタビューで、自社の後継計画は将来のAIモデルに会社の経営を引き継がせることだと語った。

最近には『WIRED』の記者マックス・ジフに対しても、権限を機械へ移行することはかねてからの構想だったと語り、AIのコーディング能力の進歩がその確信をさらに強めたと説明している。「AIのCEOに経営を引き継ぐ時期は、当初の想定より少し早まりそうです」とアルトマンは述べた。「AIのCEOにできて人間のCEOにできないことはたくさんあります」

あくまでも、これは将来についての楽観的な見方だ。このビジョンの下では、いつかわたしたちの上司はロボットになり、複雑なAI駆動の世界で、企業、もしかすると政府さえも機械が統治することになる。機械が下す決定のなかには、人間の労働者を恒久的に休職させるようなものも含まれるかもしれない。

それでも、もしそうしたAI経営幹部がClaudeの憲法に導かれているなら、従業員に悲しい知らせを伝えるときには、今週『The Washington Post』の発行人が数百人の記者に「もうあなたたちは必要ない」と伝えるZoom会議に姿さえ見せなかったときよりも、はるかに思いやりのある伝え方をするだろう。

悲観的な見方では、開発者たちの尽力にもかかわらず、AIモデルは悪意ある人々に操られるのを防げるほどの知恵も繊細さも誠実さも備えられないかもしれない。あるいは、与えられた自律性をAI自身が乱用する可能性もある。結局のところ、好むと好まざるとにかかわらず、もはやわたしたちに途中下車の選択肢はない。それでも、Anthropicには少なくとも計画がある。

（Originally published on wired.com, translated by Risa Nagao/LIBER, edited by Nobuko Igari)

※『WIRED』による人工知能の関連記事はこちら。

• 「Claude Code」の責任者が語る、AIエージェントで変わったAnthropicの働き方と開発現場
• Claudeが“ロボット犬を動かす”と何が起きるのか？ 現実世界に踏み出すAIの現在地
• 米国防総省がAnthropicをサプライチェーンリスクに指定、法廷闘争に発展か

「THE WIRED WORLD IN 20XX」シリーズは、未来の可能性を拡張するアイデアとイノベーションのエッセンスを凝縮した、毎年恒例の大好評企画だ。世界中のクリエイターや実業家、科学者など40名超のビジョナリーが、テクノロジーやビジネス、カルチャーなど全10分野において、2026年を見通す最重要キーワードを掲げた総力特集！詳細はこちら。