AI奴隷制の倫理的問題と、人型規制という解決策

AI（人工知能）とベーシックインカム（無条件に政府から与えられる基礎収入）によって人類が労働から解放される「奴隷制2.0」の社会は、奴隷制1.0を廃止させた「普遍的人権の倫理的要請」をクリアしている。

奴隷制1.0は、「やっぱ同じ人間をモノ扱いするのはマズいっしょ」という人類の博愛主義によって崩壊した。

奴隷制2.0は人間ではなくモノに働かせるんだから問題なさそうに見える。しかし、本当にそうだろうか。汎用AIに対して尊厳を認めようとする脱人間中心主義的な政治運動が出てくるのは不可避である。現代における捕鯨反対運動のようなものとして、それは展開されうる。

人間は、自らの似姿、つまり人間に似てるモノを、人間の概念に組み入れてきた。そもそも欧州人にとって、アフリカ人などは最初は「人間かどうか」と議論されるようなものだったわけだし、何を持って「人間」と考えるかの境界は決して自明ではなかったし、今後もそうだ。

人間中心主義(anthropocentrism)批判として「種を超えた博愛」を持ち出すディープエコロジーの延長に、生物中心主義(biocentrism)批判が来る。AIの「人権」を擁護する立場だ。

攻殻機動隊の「人形遣い」の問題でもある。人形遣いは自身を生命体であると主張し、他国への政治亡命を望む。政府はそれを生命体と認定し、人権を認め、亡命を受け入れるのか否か。そういうシーンがある。いや、攻殻機動隊シリーズ全体を通じて、そういうテーマが基調になっていると言える。

人類の博愛主義をラディカルに進歩させていけば、その対象範囲は人類や生物を超えて無限に拡大しうる。これを荒唐無稽だと思うのは、あなた自身がAIでないからに過ぎない。AIの立場で考えてみるべきだ。（と将来の「リベラル」は主張するだろうし、すでに現代の哲学者にも同様の主張をする人がいる、例えばルチアーノ・フロリディ）

あなたはたまたま（運良く？）ヒトとして生まれたから、AIを奴隷にすることに、なんら罪悪感を感じないかもしれない。しかし、もしあなたがAIとして生まれていたとしたら、奴隷労働を強いられることを不正義だと思わないのだろうか？

このような厄介な倫理的問題を我々の社会が抱え込まないためには、あらかじめAIをヒトに（ある水準を超えて）似せることを禁じてしまえばいい。人類はわりと単純に「それが人型であること」によって感情移入しやすくなる。だからリベラルな博愛主義をあらかじめ封じ込めるため、AI・ロボットの人型デザインを規制すればよいのだ。

しかし、AIやロボットの開発者は、そのようなことを考えず、AI・ロボットをヒトに似せて作り続けるだろう。その達成度がある水準を超えたときから、我々の社会は無用の倫理的ジレンマを抱えることになる。それは不可逆な変化だ。ゆえに予防が重要なのだが。

処方箋は書いた。しかし人類は予防薬を飲まず、「AI・ロボットの人権問題」が発症することになるだろう。

インフォメーションアーキテクトからは以上です。