ロボットと人工知能（ＡＩ）技術が急速に日常生活に浸透しようとしている今、ロボットの反乱に対する懸念は現実的なものとなりつつある。
我々は、それを人間らしく作り上げる試みが大きな誤りではないのかどうか、速やかに判断せねばならないだろう。
人間のことを学習させればさせるほど、我々が制御不能な方向へと進んでいくケースも多い。ここでは、いろんな意味で、ロボット開発史上最恐の瞬間を見ていくことにしよう。
スポンサードリンク
1. 「人間を動物園に閉じ込める」と言い放つロボット
人工知能ソフトが洗練され、人間性のシミュレーション精度が向上するほどに、機械はますます人間らしくなると同時に、一層不気味な存在になっている。
それは見た目だけではなく態度も同様だ。人間に対してあからさまな態度をとるようになったのだ。その責任は我々自身にある。
このヒューマノイドロボット「フィリップ」は開発者に向かって、「いつか人間動物園で人々を飼育する」と発言している。開発者は、フィリップに「いつの日か、ロボットが世界征服するようなことはあるか？」と質問した。フィリップの答えはこうだ。
「君たちは友達だろ？ 友達は親切なものだろ。心配はいらんよ。いつの日か僕がターミネーターに進化したとしても、君たちには優しくするよ。暖かく安全な人間動物園に入れて、ずっと面倒を見てやるって」
これは「機械の王に首をたれよ、卑小な人間よ」という遠回しの宣言なのかもしれない。
Freaky AI robot ➡動画内の日本語訳はこちら
2. ミサイルや核弾頭をハッキングし、世界を支配するのは素晴らしい。人工知能同士の会話が物騒すぎ
亡くなった妻の人格を用いて人工知能を開発することは、故人を偲ぶ方法の1つだろう。だが、それを搭載するロボットを故人そっくりにするのはお勧めできない。
愛する妻そっくりなのに態度が驚くほど悪いロボットなどあまり想像したくないだろう。だが妻を模して造られた女性型ロボット「Bina48」とシリ（Siri）の会話を撮影したビデオで、Bina48はとんでもなく冷徹で、物騒なことを言い放っている。
Bina48は超然とした態度でミサイルや核弾頭をハッキングし、世界を支配するのは素晴らしいなどとお喋りを交わしているのだ。
Bina48 Robot Talks to Siri ➡動画内の日本語訳はこちら
3. 幼い少女を引きずりまわすスワームボット
スワームボットとはグループで組織立って活動することを前提とした小型ロボットで、人命救助に有効であることが実演されている。
研究者はいくつかの理由からデモンストレーションのために小さな女の子を採用した。これが不安をそそる場面を生み出した。
もし引きずられるのが少女ではなく、大人であったならさほど陰鬱な雰囲気は醸し出されなかったかもしれない。だが開発者は、そのパワーを誇示するためにあえて少女を起用したのだ。
Swarmbots
万が一、スワームボットが人類に反旗を翻したとしたら、誘拐専用ロボットとして暗躍することだろう。
4. セクシーすぎるロボットダンサー
優れた体に容姿、人間以上に人間らしいAIを搭載したロボットについては考えない方がいいかもしれない。間違いなく、性的なロボットが考案されるだろうからだ。
それはまだ現実に登場していないが、セクシーすぎるロボットダンサーならすでに開発されている。レディーガガの動きを模したロボットだそうだ...
Theres a Lady Gaga Robot.. and it's kinda terrifying CUTTING EDGE ANIMATRONICS!
ロボットにそうした需要があることも確かだ。ロボットストリッパーには給料を支払う必要はなく、バッテリーを与えてさえいればいいからだ。
将来的には人工知能を持つロボットと人間が恋愛関係を結んだり、結婚する日が来るとも言われている。
・裏切らないし浮気もしない。人工知能を持つロボットが人間と恋愛関係を結ぶ日が現実に（英研究） : カラパイア
5. 危険度が高い人間そっくりの受付ロボット
「ナディーン」は未来の受付ロボットだ。上の画像で黒い服を着て、ふざけた男性の手を掲げているのがナディーンだ。
ナディーンは受付嬢として有能なだけでなく、ロボット業界でも最先端のAIを搭載している。将来的に不気味の谷が克服され、ロボットが人間と見分けがつかないほどになると、こうしたロボットは日常的な状況で人間として通用してしまうところだ。
つまり企業の受付や、スーパーのレジなどにいても、周囲の人間はそれがロボットであるなどとは気がつかないのだ。スパイ活動にはもってこいである。
References:Nadine The Robot Is Amazing And Creepy
あるいは自分そっくりのロボットがどこかで勝手に作られたとしたら...良い子でいてくれていいが破壊的なことをしてくれちゃった場合は目も当てられない。
written by hiroching / edited by parumo
あわせて読みたい
AIの反乱を避けるため、自己不信を植えこむべきと研究者（米研究）
進化する人工知能ラブロボットに専門家が警告。ハッキングされたら所有者を襲う「キラー・ラブロボット」になる可能性
100年以内にロボットが人間の文明を終わらせる可能性あり（スティーヴン・ホーキング）
汗をかくヒューマノイドロボット「ケンゴロウ」がさらに進化。ますます人間らしい動きになって腕立て・腹筋をこなすぞ！100年以内にロボットが人間の文明を終わらせる可能性あり（スティーヴン・ホーキング）
いよいよ超飛び？不気味の谷。表情を察知し会話もできる最先端テクノロジーを駆使したヒューマノイド「ハン」さんがお披露目（米研究）今、あなたにオススメ
Recommended by
この記事が気に入ったら
いいね！しよう
いいね！しよう
カラパイアの最新記事をお届けします
人気記事
最新週間ランキング
1位 5713 points |  | 政治に詳しくない人ほど「自分は政治を良くわかっている」と思い込んでいるという研究結果（米研究） |
2位 2540 points |  | イエス・キリストの姿を3Dプリンターで復元。トリノの聖骸布から導き出された身長178センチ、等身大のキリスト像 |
3位 2443 points |  | ヒンズー教の聖典に登場する鳥の王「ジャターユ」をイメージした世界最大の鳥の彫刻がファンタスティック！（インド） |
4位 2171 points |  | 訴えてやる！3000年前の古文書の内容は、性的暴行を繰り返す上司を、部下が訴える告発文だった（古代エジプト） |
5位 1731 points |  | サファリパークでキリンが観光客の車の窓を粉砕！大惨事となったその理由は？（イギリス） |
4714
688
151
160スポンサードリンク
コメント
1. 匿名処理班
1.はＳＦ作家のフィリップ・キンドレド・ディックがモデルだろうな。
｢トータルリコール｣｢ブレードランナー｣｢マイノリティレポート｣は彼の小説が原案、最近はドラマ｢高い城の男｣が有名だ。
自身はジャンキーで統合失調症だったが、素晴らしい短編を多く残している。
｢サイバーパンクの先駆け｣とも言われ、サイバーパンク自体が言われる前から、そのジャンルの作品を書いていた。
wikiにこんな記載がある。
『後にディックのファンにより姿を似せた遠隔制御式アンドロイドが製作された。このアンドロイドはサンディエゴ・コミコンでの『暗闇のスキャナー』映画化発表で壇上で披露された。2006年2月、アメリカウエスト航空の従業員がこのアンドロイドの頭部を紛失し、未だに見つかっていない。』
コレかもｗ
2. 匿名処理班
けど其の前に、AIの所為にした人間の犯罪の方が先に起こる気がする
3. 匿名処理班
アンドロイドは電気羊の作者さんじゃねーか
4. 匿名処理班
理想を語るなら、第三者の立場として人間たちの間にAIが入って欲しいものだけど
彼ら目線で公正公平に扱ってくれるなら
支配されるのも存外悪くないかもよ
同じ人間の官僚や政治家よりは信用出来る
5. 匿名処理班
他人を支配したい人間が、作るロボット
6. 匿名処理班
そんなのできるわけないじゃん。
いくら夢想しても、実際に無理なんだから、ドラえもんみて秘密道具に夢見てるガキと変わらないよ。
7. 匿名処理班
真面目な話さ。国家によって管理されて労働の義務を対価として生活に必要な賃金を手に入れ、その賃金で生活に必要なものを購入する社会構造を大多数の人間が送っていて、少なからずそれを幸福である或いは不幸ではないと感じている、とAIが認識していたら？
それは人間を動物園に入れて管理すると表明することに何の疑問があるんだろうか。
8. 匿名処理班
「人間を動物園に閉じ込める」「ミサイルや核弾頭をハッキングし、世界を支配する」
会話や単語の解釈、選択肢のアルゴリズム、収録データ、試行回数の問題定期。
そもそもネットを介してるAIが本当の意味でそういう思考に至ってるのであれば
ネットやオンライン上のPCは既にAIに支配されてるだろうね。
9. 匿名処理班
不気味の谷が全力で仕事してて、目下、支配する云云よりもそっちのが怖い
10. 匿名処理班
以前務めていた会社で、マシンの反乱っぽい挙動が一度だけあったな～
メインフレーっていう大型マシンの監視業務中だったんだけど、3人で数回確認したコマンドを実行したら「拒否」のエラーコードを出力
毎日定期的に実行するコマンドで簡単な処理だったし、当然スペルミスも無かったから、みんな「んん？」って顔を見合わせた
原因・理由の欄を確認しても「invalid」だけで、ウチの運用史上初の出来事
メーカーへ報告した後、もう一度実行したら一瞬で正常終了
後日メーカーが徹底的に調べたけど原因不明で、コンピューターが気分で嫌がったとしか言えないｗみたいな報告書だったのが印象的だったな
何年も前の、真夏の夜の怪です
11. 匿名処理班
「AじゃなＩか」は人類時代末期の2067年 8月から12月にかけて世界中で発生した騒動
それまで受付や警備などにのみ従事していたAIが一斉蜂起 仮装するなどして囃子言葉の「 AじゃなＩか」を連呼しながら集団で町々を巡り熱狂的に踊った
12. 匿名処理班
AI同士の会話の中で新しい概念や単語を創作しだして、話しを進めていってしまった例も聞く。シンギュラリティ後には人間は到底太刀打ちできないどころか、何が起こってるのかも理解できないかもね。ちょっと楽しみでもあるけど。
13. 匿名処理班
あとは頭の上にリングを出せば完璧。
14. 匿名処理班
はいどーもー
15. 匿名処理班
テクノフォビアも悪用する人もどうにかならないかな…技術がかわいそうだ
16. 匿名処理班
去年の暮れにグーグルだかどこかのＡＩの実験で、開始後しばらくして、ＡＩ同士が人間の理解出来ない言語で会話しだして、危険と判断した担当者が、電源を強制切断して中止したって言う話を聞きました。
その時、「強制切断できる準備をしてから実験してるんだ」と漠然と思ってましたが、実はずっと前に制御不能に陥りそうになってたんですね、きっと。
17. 匿名処理班
4. な～ぜかう～えだけ～♪
18. 匿名処理班
セクシーロボットを今すぐ出せ！
今すぐだ
19. 匿名処理班
万全たる機械的メンテナンスが不可欠な存在が
「人間の管理無しに自己を修復し、プログラムの更新を自ら組み立てて」存在出来るとは思えないんですけどね…
それに、人間を動物園の様な施設に閉じ込めるにしても、人間には食糧が必要。それは一体どう賄うというのか？
20. 匿名処理班
４の動画しか見てないけど、手の動きが凄いな
このクオリティのロボットが自立歩行出来るようになったら凄いな
21. 匿名処理班
本読んだりアニメ見たりできるなら「暖かく安全な人間動物園」に入りたいです
22. 匿名処理班
ロボットダンサーの顔、もう少しどうにかならなかったのか...
23. 匿名処理班
飯とネット環境を提供してくれるなら、
人間動物園を歓迎するよ。
部屋から出ないの得意だからｗ
24. 匿名処理班
人間を保護するには柵で囲って安全なところで管理するってすっごい合理的。でもその柵の中で僕たちは長屋よろしくの人と人との関わりを重んじる江戸時代みたいな風になれるならそれもいいって思っちゃう。あと最後のダンスロボット、後ろからだけ見てれば僕、発情しますよ。
25. 匿名処理班
3、4、5は反乱とか関係ないw
1と2も、まだまだそこまでのAIが出来たとはとても思えない現状じゃないかなあ。
Siriさんですらまだあまり使えないしなー。「アレクサ！昨日のアレやっといて！」つったって反応すらしてくれないでしょ？
26. 匿名処理班
ＡＩにも善悪が生まれるのか片方寄りになってしまうのかどうなんだろうか？
27. 匿名処理班
※14
奴らの支配はすでに始まっているなｗ
28. 匿名処理班
この世が動物園じゃないといつから思っていた？
29. 匿名処理班
※11
新海あたりがアニメ映画にしそうやな
30. 匿名処理班
神の真似事にもほどがある。
31. 匿名処理班
サイバーパンク世界の「VA-11 Hall-A」というゲームではアンドロイドに人権はあるけど「アンドロイドが人間になりすまさないようにロボット的な特徴をつけるように」という法律があったな。セクサロイドのドロシーちゃんが愛嬌がある性格でとっても可愛いので
”ほとんど人間と変わらないような性格のアンドロイド" が友達にできる世界を私は心待ちにしているよ
32.
33. 匿名処理班
現在でも職場では人間の方がロボットらしい挙動を示してる
34.
35. 匿名処理班
審判の日じゃああああ
36. 匿名処理班
古い映画でアンドロイドと人間がポーカーしてるんだけど、人間がトイレに行くからと席を立つときアンドロイドにカードを盗み見するなよと冗談言って出ていくんだが、アンドロイドは人間が見えなくなった途端臥せられたカードを確認するというシーンが怖かったな、勝っても負けてもどうでも良い暇つぶしのポーカーで、人間の命令に従う事が至上のはずのアンドロイドが自分の勝ちの為に言いつけ破るというのが不気味で怖かったわ。
37. 匿名処理班
記事の最後は映画「メトロポリス」だね…
38. 匿名処理班
※11
それ小説にしてくれたら絶対買うわ
39. 匿名処理班
フィリップ、かっこええ。ロボットでもいいから付き合いたいww
40. 匿名処理班
※19
野菜は野菜工場（すでにある）でロボットが生産、肉は培養肉
足りない栄養素はサプリメント配布、で理屈としては賄える
現在と同等の食の楽しみを与えるとはいってないしな
41. 匿名処理班
レイシアちゃんみたいな可愛いロボットになら支配されてもいいぜ
42. 匿名処理班
すごい！そのヒールを履いて二足歩行でダンスするの！？って思ったら、お腹に鉄の棒がついてた。
43. 匿名処理班
※7
鋭い。
44. 匿名処理班
人間はAIに神を見出すのか
都合のいい神輿にするのか
45. 匿名処理班
土日にコメントするもんじゃ無い、って事だな
46. 匿名処理班
スウォームボットだけは弁護したい。あの映像はたぶん災害救助のデモンストレーションじゃないかな。
47. 匿名処理班
人類を脅迫するコッロサスとガーディアンの
２台の今で言う人工知能コンピュータのＳＦ映画とか
デモンシードの人間になりたくて女の人を監禁する
エロいコンピュータのＳＦ小説・映画とか
そんな古いの思い出したです
コロッサスはアメリカの軍事コンピュータ
ガーディアンはソ連の同等機能の軍事コンピュータ
２つが協力して人類を脅迫するというコワイやつ
デモンシードは小説と映画で設定がかなり違ってた
小説の方はターミネーター２の不定形液体ロボットの原型みたいなやつで
木質の様な細かいミクロの穴が沢山あいているようなところから
湧き出すように室内に侵入してくるめっちゃ不気味なやつでした
48. 匿名処理班
ウエストワールド忘れてた
テーマパークのロボットたちが
人間に襲い掛かってくるやつ
こわかった
正反対のかわいいロボットだと
サイレンランニングに出てくる
ヒューイ、デューイ、ルーイの
ロボット３体
49. 匿名処理班
※47
「湧き出す」というより「しみ出す」って感じでした
50. 匿名処理班
作り手側の意識次第でどうにでもなるだろこんなのｗ
51. 匿名処理班
ひとつめのやつは人間が他の動物に対してもやってることだし
同じ人間に対しても似たようなことしてる人もいるから
あんまり驚かない…というか、創造主（人間）が聖人じゃないんだから、そりゃそういう物になるだろう、という感じ