昨夜は足の激痛で痛み止めを飲んで記事を書いていたら、眠さに負けて途中で投稿してしまった（笑）。お許し願いたい。
AIの実態を最もよく知る日本人である脳機能学者の苫米地英人氏と元外務省主任分析官の佐藤優氏が行った対談は、主に「認知戦（マインドコントロールやプロパガンダ）」やインテリジェンス、国際情勢の裏側をテーマに展開されてた。お二人の対談の内容は『見えない戦争の正体――米中露が仕掛ける「認知戦」』（フォレスト出版）の中にまとまっているので、ぜひ読んでいただきたいところだが、苫米地英人氏の詳細な情報はいささか高度過ぎて、素人にはついていけない部分も多いのであしからず。だが、この対談の中でヒントとなるのが、佐藤氏も指摘した生成AIの在り方に関して紹介された「ロボット三原則」である。
◆「ロボット三原則」とAIのルール作り
そもそもコンピュータが人の役に立つ状態というのは「エンターテインメントとして人々が楽しむこと」を言う。東京大学生産技術研究所の原島文雄氏は「私たちの仕事は50年後の人類のエンターテインメントを作ること」と断言していた。コンピュータがうまく動くようになったのは1950年代で、ゲーム機が隆盛を誇ったのは2000年代に入ってからなので、ほぼその通りになった。そこから25年経ち、生成AIは一般化し始めたが、まだ25年で遊び道具としてエンターテインメントには至ってはいない。よって子供の遊びにはまだ使えない。
AIはまだまだ発展途上で研究の必要があり、子供が自殺や犯罪に走らないようなルール作りも求められる。だが、AIのルール作りで必要なのは細かな倫理ではなく、単純な原理原則である。それはアメリカの生化学者・小説家アイザック・アシモフが提唱した「ロボット三原則」（Three Laws of Robotics）にヒントがある。
＜ロボット三原則（ロボット工学三原則）＞
第一原則:ロボットは人間に危害を加えてはならない。また、その危険を看過することによって、人間に危害を及ぼしてはならない。
第二原則:ロボットは人間に与えられた命令に服従しなければならない。ただし、与えられた命令が、第一原則に反する場合は、この限りではない。
第三原則:ロボットは、第一原則および第二原則に反するおそれのないかぎり、自己を守らなければならない
— 2058年の「ロボット工学ハンドブック」第56版、『われはロボット』より
この「ロボット工学三原則」は「ロボットシリーズ」と呼ばれるアイザック・アシモフのロボット物SF小説の主題として表れたものだ。アシモフ以前のSF作品には現在ではフランケンシュタイン・コンプレックスと呼ばれるテーマ、すなわちロボットが造物主たる人間を破滅させるというプロットがしばしば登場していた。これに対しロボットの安全装置として機能するのがロボット三原則である。作中において三原則はミステリの構成要素となっている。しばしば、ロボットは一見不合理な行動をとるが、その謎は三原則に沿って解き明かされていくというものだ。
まぁ、現実の応用においては、現在のロボット工学における理解では三原則をそのままロボットに適用するとフレーム問題を引き起こすと推測されている。そして現代のコンピュータには、これらの原則をプログラミングする事自体が不可能ではあるが、三原則を安全・便利・長持ちと読み替えることで家電製品にも適用できることが知られており、人間の道徳律にもあてはめることができる。三原則の理念はその後のロボット作品に影響を与え、ロボットやサイボーグなどがアイデンティティーの確立や人間との接し方などでジレンマを感じ苦悩するといったテーマの題材にもなった。
アシモフは三原則だけでは解決しえない命題も提示している。『ロボットと帝国』では第1条の人間を人類に置き換えた第零法則が登場している。そこからは「人間」とは、「人類」とはなにかと言う問いも生まれる。ロボット三原則が適用されるのは自意識や判断能力を持つ自律型ロボットに限られており、ロボットアニメに登場する搭乗型ロボットなど自意識や判断能力を持たない乗り物や道具としてのロボットに三原則は適用されない。現実世界でも無人攻撃機などの軍用ロボットは人間の操作によって人間を殺害している道具であるが、自意識や判断能力を持たないため三原則は適用されていない。
生成AIにもこの3つで十分であり、これ以上のルールを定めると、Googleが「当社のポリシーに違反する」事態が起きる可能性があるからだと苫米地英人氏も自著で書かれている。が、現在アメリカの巨大AI企業はMicrosoft/OpenAI、Google、Anthropic、Metaの4強が生成AI分野で熾烈な能力競争を行い、そこにAI半導体市場で独占的地位を持つNVIDIAとイーロン・マスクが立ち上げたxAIがいる。イーロン・マスクはOpenAIの創業メンバーでもある。ここに中国のHuaweiのチップなどの国産技術を活用し、AlibabaやByteDanceが急速に性能を向上させている。
問題はこれらどこの会社にも「倫理」など存在せず、己の利益のことしか考えないため、もし彼らがロボットを作るとアイザック・アシモフの理念とは真逆のものが作られることになる危険性が高い。だが、もし日本がAI開発に積極的に入って行くなら、状況は変わるかもしれない。なぜなら日本は25年前からエンターテインメント・ロボットを作って来ているし、 PlayStationはゲーム機でありながら「軍事レベル」と称され、単なるゲーム機としての性能を超え、実際に米軍の防衛機関がその処理能力やコントローラーを活用してきた歴史があるのだ。
アメリカ空軍研究所（AFRL）は1,760台のPlayStation3を連結させて「コンドル・クラスター」と呼ばれる超高速スーパーコンピュータを構築したのである!! その用途は高解像度衛星画像の解析、レーダー強化、そしてAI研究だったのである。つまり、日本は軍事レベルの民生ゲーム機を普通に作っているのであり、決して軍事に転用しようなんてことは考えない。さらにそうしたハイスペックなゲーム機で子供の頃から遊んでいるのであり、犬型ロボットAIBOやPepperとも触れ合ってきたのである。そして、日本ではアイザック・アシモフが三原則を提唱してから50年後にAIBOが作られていたのである。
欧米諸国ではロボットを「人間の仕事を奪うライバル」や「召使」と見る傾向が強い一方、日本人はロボットを「一緒に働く・共創するパートナー」として歓迎する傾向がある。ソニーが1999年より販売しているペットロボットaibo（旧：AIBO）やPepper、PAROなどは感情や空気を読んで寄り添うコミュニケーションロボットで、孤独感を癒やしたり、ケアを行ったりする生成AIとは真逆である。実際、日本のロボットは「道具」としての枠を超え、人の心に寄り添い、生活や仕事をサポートする「パートナー」としての進化を遂げている。高い技術力と、日本ならではの感性が融合し、医療、介護、家庭など多様な分野で共生が進んでいる。
一方で、アメリカ軍は現在、最先端の生成AIや大規模言語モデル（LLM）を統合した「AIファースト」の軍事部隊の構築を急ピッチで進めている。自律型ドローン部隊の制御や、4足歩行ロボット（ロボット犬）への兵器搭載、そして戦場での兵士の意思決定を支援するチャットボットなどの開発と実戦配備が加速しているのだ。もちろｎこれはアメリカが世界最大の軍事大国であるからだが、とにかくアメリカで製造されるロボットは可愛くない。みな一様に”メカ”、”サイボーグ”といった雰囲気で、どうあがいて人間の友達にはなれそうにない。ここには日本との根本的な思想の違いが現れている。
アメリカではAIが自律的に目標の発見や識別を行う無人システムの開発が進んでいる。そんなものには自社生成AIを使わせないと言っているのはアンソロピックだが、どこまで持ちこたえられるのかは不明だ。アメリカ軍では人間のオペレーターが最終的な攻撃承認を下す体制を維持しつつも、AIによる状況判断や標的補足を高速化させる技術（パランティアの「Maven」など）が指揮統制システムに正式採用されている。また、ゴーストロボティクス（Ghost Robotics）社が開発した4足歩行ロボット「Vision 60」などが米軍や海兵隊に導入されている。
さらに姿勢制御技術により、ライフルやロケットランチャーといった兵器を搭載・発射する実験も行われており、軍事利用を見据えた殺傷能力のある人型ロボットの開発も進められている。もはやどんな最先端技術も完全に「兵器」として取り込まれるのであり、だからこそ可愛らしいロボットなど不要なのである。米陸軍では、実際の任務情報や過去の戦訓を学習させた専用のAIチャットボットを開発している。これにより、兵士は現場で即座に重要な情報や戦術アドバイスを引き出せるようになるという。そうした兵器ロボットの話はかなり前の『ゴルゴ13』にも登場したが、今は既に”開発済み”という意味だ。
国防総省（ペンタゴン）は、OpenAIやパランティア（Palantir Technologies）などの民間AI企業と機密システムへの導入契約を結び、軍事分野でのAI優位性を確立しようとしている。一方で、この軍事利用を巡っては、最強のAIを開発してしまったアンソロピック（Anthropic）と政府の間で摩擦が生じている。自社のAIモデル「Claude」を完全自律型兵器や大規模監視に使うことを拒絶、米政府と激しく対立している。軍事テクノロジーの倫理や安全性、民間企業と国家の権限のバランスが大きな議論となっているが、これまで書いてきたように、生成AIを開発するほとんどの巨大企業には「倫理」は存在しない。だから日本が重要なのだ。
AIBOを開発するにあたって、ソニーは、次のようなロボット三原則を定義した。
「ロボット工学三原則・AIBO版」
《第一条》
ロボットは人間に危害を加えてはならない。
自分に危害を加えようとする人間からも逃げることは許されるが、反撃してはいけない。
《第二条》
ロボットは原則として人間に対して注意と愛情を向けるが、 ときに反抗的な態度を取ることも許される。
《第三条》
ロボットは原則として人間の愚痴を辛抱強く聞くが、 ときには憎まれ口を利くことも許される。
どうだろうか。日本はロボットを作る際に、アシモフの小説を読んだ人間がアシモフの思想を吹き込んだのである。そして、こうした「戦わないロボット」「反撃しないロボット」はその他のメーカーにも受け継がれている。AIBOもたとえ技術が進歩しようが、ロボットの倫理を失うことはなかった。なにせAIBOはエンターテインメントロボットなのである。2001年11月に発売したAIBOの「ERS-220」では、原案製作を手がけたのは『超時空要塞マクロス』をはじめとした数々のメカデザインで有名な河森正治である。彼の出した応えは「宇宙探査ロボット」だった。
従来の動物（ペット）路線から一線を画し、アニメ監督・メカニックデザイナーの河森正治氏が手がけた「宇宙探査ロボット」をモチーフとしたAIBOは、シャープで未来的なデザインが大きな特徴となったが、それでも可愛らしい犬ロボットから精悍な犬に変わっただけだ。決してバズーカ砲を背中に積むアメリカの軍事用犬ロボットは違う。日本はたとえ作れても作らないし、アメリカからオーダーされても作らないのである。それは企業に「倫理」があるからで、さらに日本人とロボットとの長年の付き合いがそれを許さないのである。
AIBO は1999年から販売されたが、2003年の株価急落でソニーの経営状態が悪化、出井会長は2004年にロボット事業からの撤退を命令、2005年に就任したハワード・ストリンガーCEOによるエレクトロニクス機器部門のリストラ策で生産終了となった。AIBOオーナーたちは悲しんだ。いくらロボットとはいえ、市販の民生用のおもちゃと同じだ。生産が終了したら、AIBOが壊れても修理をしてはくれなくなるし、新規に部品も製造しなくなる。当時、AIBOを”飼っていた”友人は、「SONYも外資系の冷たい会社になっちゃったということだよね」と言っていたのを覚えている。
だが、ソニー元社員を中心とする有志により、バッテリー寿命を迎えるなどした初代AIBOへの修理対応を続ける会社があり、これを請け負うソニーの元技術者は、「修理」でなく「治療」と呼び、所有者からの部品再利用の申し出を「献体」と表現する。2015年1月には、飼い主によってAIBOの合同葬儀が仏教形式で行われているのだ!!。世界広しといえど、ロボットの葬式を挙げる国なんて日本しかない。そして、葬式後のAIBOは故障した他のAIBOのドナーとなるのだ。お分かりだろうか。日本人はAIBOを単なるロボットペットではなく、「生き物」として扱っているのである。
＜つづく＞
