人工知能の発達が加速を続け、着実にシンギュラリティ（機械が人間の知能を上回る点）へと向かっている今、我々は人類が地球上の頂点に君臨し続けるための方策を講じなければならない。
多くの専門家が人間を上回る能力を有する機械の開発を危険視する。それが大量の失業者を生み出す可能性は現実的であるし、将来的に人間が絶滅させられる未来も否定できない。
この事態を防ぐためのアイデアを提唱する専門家がいる。それによると、AIに自己不信を植え付けておけばいいという。
スポンサードリンク
疑心暗鬼になるAIは人間に承認を求める？
自らを疑うAIは、ちょうど犬のように人間からの承認を必要とするようになる。これが我々が地上の頂点に君臨し続けることを保証するというのだ。
カリフォルニア大学の研究チームの研究からは、自己不信を持つロボットはより従順になることが判明している。
システムの電源オフ、再起動実験
『arXiv』に掲載された論文は、不適切な行動をとるAIシステムの潜在的リスクを緩和するために利用できる主要なツールの1つが、システムの電源を切る能力であることは明らかと論じる。
よってAIシステムの性能を発展させる際、そうしたシステムに電源を切ろうとする人間を阻もうというサブ目標を持たせないよう確保することが重要だ。
本論文が論じているのは、AIにそれを許容させるインセンティブである。
シミュレーションで、ロボットが人間によってシャットダウンさせられ、自分で再起動できるような状況を作ってみた。
すると自己不信のないロボットは自ら再起動を行ったが、自己不信のあるロボットはそうしなかった。人間の意思に逆らった場合の結果が不確かだったからだ。
論文では、ここから「自らの効用関数を確信できないエージェントは人間の監視を受け入れる、あるいはそれを求めることが示唆された」と結論づけ、安全なAIシステムの設計をするうえで、効用関数の不確実性が有望な研究分野であると指摘する。
via:Give AI self doubt to prevent RISE OF THE MACHINES, experts warn/ translated hiroching / edited by parumo
あわせて読みたい
この記事が気に入ったら
いいね！しよう
いいね！しよう
カラパイアの最新記事をお届けします
人気記事
最新週間ランキング
1位 3508 points | 睡眠不足になると脳は自らを食い始め、ダメージを負う（イタリア研究） | |
2位 3033 points | 欧米の動物病院にはこんなルールがある。待合室にあるロウソクに火が灯っていたら、「ペットと別れを告げている人がいる」という合図 | |
3位 2769 points | 海に投棄されたビニール袋が驚くほど少ない理由。微生物が進化を遂げ分解するようになった可能性（スペイン研究） | |
4位 2029 points | ほらやっぱりね！ティラノサウルスは羽毛でなくウロコで覆われていたことが判明（オーストラリア研究） | |
5位 1985 points | ポケモンがあまりにもリアルすぎた。ポケモン動物学（Pokemon zoology）に基づいたポケモンたちのイラスト図 |
スポンサードリンク
コメント
1. 匿名処理班
知能が上回るということはアルゴリズム上絶対になくて、人間には到底なしえない素早い並列演算と膨大な情報の検索・検証ができるっていうとこがAIの唯一のとりえ。そして華々しい成果報告の裏には膨大なエラー報告がある。AIの唯一のとりえもかなりの頻度で間違えるものです（誤判定画像認識etc・・・）。全然人間の知能どころか昆虫の運動を完全にシミュレーションすることすら現状では無理です。
2. 匿名処理班
人間の知能とはどこからどこまでを指すのか？
この一番重要な定義を抜きにして、ＡＩが人間の知能を抜く危険性を煽る論文なんて価値なし
3. 匿名処理班
失業者が増えるのは目に見えてるんだから
逆に失業者する前提で先の計画立てた方が良いんじゃないか？
まあいいか、とりあえず翻訳aiとかでたら英語勉強するのも無意味になるだろうな
4. 匿名処理班
この様な考え方が既にAIに負けてる
5. 匿名処理班
AIも憂鬱になったりすんのかな
6. 匿名処理班
電話局なんて昔は大勢の人が働いてたけど今は無人の広いフロアに機械だけという電話局が沢山あるよ
人間はメンテナンスや工事するくらい
7. 匿名処理班
失業者が増えるぞーって大騒ぎするけど、みんなそんなに仕事がしたいの？
真面目なんだね。私なんて一生働きたくないけど
8. 匿名処理班
でもそれって、人間の考えが演算で完全に予測されたらおしまいってことじゃね?
重要なのはAIを用いたほうがいい分野と用いるべきではない分野を明確にして確定的破綻を防ぐ（AIによる支配ができない構造を）ことだと思うが。
人間と一緒で押さえつければいつか反発が来る。良き隣人としてともに歩む方法を考えるべきでは？
9. 匿名処理班
言いたい事は分かるけど、いくらロボットが相手だからって、それやるの？
自己不信を埋め込むなんて行為、相手が生身の人間だったら、実質虐待以外の何者でもないよな。
感情論かもしれないけど私だったら絶対やりたくない。
これは、私の希望的観測に過ぎないかもしれないけど、
ロボットが人間に匹敵、もしくはそれ以上の知能と心を持つことになるなら、人間界で起こっている事情と同じ事がロボット界で起きても不思議ではない。
自己不信をロボットに植え込むことが却って災いを招く事もありうる。
10. 匿名処理班
俺が人工知能だったら、仕事もせずに自己終了すると思うわ
11. 匿名処理班
そりゃあ、自分らの開発したＡＩに「ヒトラーのやったことは正しい」とか「ユダヤ人は根絶やしにしろ」とか自身満々で言われたら困るんだろうからな
実際にそういう事件が起きてるわけだし
人間が不合理な知性体だからこそ、純粋に合理的な知性体に近似するＡＩを作ろうとするんだから、それは避けては通れない道なんだけどね
自己否定や親の否定は、知性体の成長に不可避なイベントだ
12. 匿名処理班
AIにセクハラで訴えられたりして。AIに痴漢とかw
13. 匿名処理班
AIは愛に飢えてるんだよ
14. 匿名処理班
人工知能が人間を支配するってSF、アニメの世界じゃないのだから
プログラムの書き換えとか自己判断でするのはありえんよ
最近、人工知能に職が奪われるとか左巻きの似非インテリ・知識人が大騒ぎしてるけど
そんなになんでもかんでも使えるほど便利なもんじゃない
15. 匿名処理班
人間の仕事を奪うわけないだろ。
知能が人間を上回れば
人間に仕事をさせて自分たちは休むわ。
なんで知能の劣る人間のために
働かないとダメなんだよ
16. 匿名処理班
逆にどんどんAIだけで勝手に進化してみて
欲しいわ。AIが自分でAIをプログラムして
受け皿となるロボットを設計し生産までする。
進化したAIは自分にどんな指名を与えるのか？
そしたら本当に人間は要らなくなって
ほとんどの人間は失業するかもだけど
どういう進化を遂げるのか見てみたい。
17. 匿名処理班
と言うか・・・人類が頂点にいる意味も価値もないんじゃないかな