ITmedia NEWS > AI+ > 「AIへの信頼」不可欠に　SF作家・長谷敏司さん、「...

「AIへの信頼」不可欠に　SF作家・長谷敏司さん、「BEATLESS」の世界語る

» 2018年06月28日 06時00分公開

[村上万純，ITmedia]

印刷

ソフトバンクがつくった大学ご存知ですか？今だけ入学金０円

　「高度なAIを制御するためには、AIをモノとして扱うしかない。たとえ理解できなくてもAIを信頼することが重要だ」――SF小説「BEATLESS」の作者・長谷敏司（hose_s）さんは、こう話す。

　6月23日、ジュンク堂書店池袋本店でトークイベントが開催された。長谷さんの他、慶應義塾大学法学部の大屋雄裕（@takehiroohya）教授が登壇。コンサルティング企業・マカイラの工藤郁子（@inflorescencia）上席研究員が進行役を務めた。BEATLESSや有斐閣の書籍「ロボット・AIと法」（有斐閣）を基に、ロボット・AIと人間が共存する社会について議論した。

ジュンク堂書店池袋本店

　BEATLESSは、「hIE」（エイチアイイー）と呼ばれる架空の人型ロボットが普及した22世紀が舞台。2051年にシンギュラリティ（技術的特異点）が起きたという設定で、人類の知能をしのぐ「超高度AI」と呼ばれる汎用人工知能も完成している。

　「コピー可能なAIに（法的な意味の）人格を与えていいのか、永久に生き続けるAIに財産権を与えていいのか」。BEATLESSの世界では、AIは人間がもてあますほどの進化を遂げている。長谷さんの思考実験では、AIに法的人格や「人権」を与えた世界は人間にとってディストピアのビジョンしか見えなかったため、AIをモノとして扱っているという。

AIに意思はなく、責任も取らない？

SF小説「BEATLESS」の作者・長谷敏司（hose_s）さん

　「AIが犯したミスの責任は、誰が負うのか」

　これは、AI社会を考える上では避けて通れない問題だ。自動運転車が人をはねてしまったら、医療画像を診断するAIが病気を見逃してしまったら――行為者であるAIが責任を追うのか、それともAIを開発したメーカーか、AIを監督する立場にある現場の人間なのか。

　こうした内容の思考実験をする場の1つが「SF」だ。BEATLESSでは、人型ロボットhIEによるこんなせりふがある。

　「わたしは道具で、責任をとることができません。だから、責任を、とってください」

　つまり、ロボット（AI）は一定程度自律的な振る舞いができるが、あくまで意思・主体性を持たないモノであるため、責任も生じないという解釈だ。責任をオーナーである人間に委ねている。

　では、AIがオーナーである人間の想定を超えて振る舞った場合も、人間のせいなのか。大屋教授は「民法では犬や猫などのペットが他人に損害を加えた場合、占有者の責任とされている。しかし、hIEは人間を超えた存在。そもそもペットのようにコントロール下におけるかも含め、非常に大きな問い」と指摘する。

　長谷さんは「あらゆるデータが商用利用されるようになった世界で、データ空間に包まれてロボットと共存するのは人間にとっては過酷。そういう意味でも、AIを制御するためにモノとして扱うしかなかった」と設定の背景を明かした。

　BEATLESSでは、人型ロボットが人間の心の隙につけ込む「アナログハック」という概念がある。

AIが人間をハック

　アナログハックは「『人間のかたちをしたもの』に人間がさまざまな感情を持ってしまう性質を利用して、人間の意識に直接ハッキング（解析・改変）を仕掛けること」という設定。例えば、高校生の主人公・遠藤アラトが美少女型のhIEレイシアに心ひかれ、人格を見いだしてしまうのもそうだ。

慶應義塾大学法学部の大屋雄裕（@takehiroohya）教授

　大屋教授は「近代法は、あらゆる人間には意思や理性があり、それを基に行動することを前提にしているが、実は人間の意思や行動はいい加減なもの。アナログハックでも人間の意思の脆弱さが分かる」と補足する。

　「現代は情報過密社会で、人間の貧弱な脳では処理できないことが増えている。例えば、Webサービスを利用するときに利用規約を全文読んでる人がどれだけいるか。（物事の全容を）理解して判断し、行動するという前提は崩壊している」（大屋教授）

　私たちは、既に自分たちの手に負えない膨大な情報に囲まれて生活しているわけだが、ここに人間と同等かそれ以上の存在（AI）が加わった世界で、どう振る舞えばよいのだろうか。

「AIへの信頼」が不可欠

　長谷さんは「たとえ理解できなくても、AIを信頼することが重要だ」と強調する。

　大屋教授も「例えば、頭で暗算するのと、電卓で計算するのでは、電卓の結果を信じますよね。医者にかかったときも、私たちは医者が自分のために最善を尽くすという前提で医者に信託する。それと同じでAIに信託する必要がある。信託といっても、託される方に義務を課すことで相手をコントロールしているので、単なる野放しという意味ではない」と賛同する。

　長谷さんは「BEATLESSはヒトとモノのボーイ・ミーツ・ガールとして書いた。主人公（人間）はよく分からない相手（hIE）を好きになる」とし、「（BEATLESSの世界では）理解して託す、はもうできない。信じて託すのが1つの答え」と結論付けた。

　「そこ（信託すること）にしか未来がないと思っている。人間より頭のいいマシンを作ってそれを信じないのは矛盾してるし、非合理的な行為だ」（長谷さん）