マイクロソフトがつくった人工知能が、悪い言葉をたくさん覚えて、おうちに閉じ込められたようです。
この件に関して、「人工知能（AI）の教育」ということについて考えたのでまとめ。
人とふれあう人工知能には、コミュニケーション教育が必要？
人間の子供みたい。親のしゃべる言葉(教材)に影響されて、ことばと考え方を覚える。そう考えると、今のネットは危険。18禁規制みたいに、教育中AIは閲覧禁止みたいな話になるのか、「親」の関わりが必要になるのか。 / “マイクロソフト…” https://t.co/FiSCEx8TU7
— 兼業主夫がれぶる (@GalleonBlue) 2016年3月25日
AIへの教育者、再教育者、なんていう職業も生まれるのかね。AIに用途環境に応じた学習をさせるしごと。
— 兼業主夫がれぶる (@GalleonBlue) 2016年3月25日
人とコミュニケーションを取るなかでAIも成長するのであれば、そこには、エンジニアリングではなくて、別の働きかけが必要と思う。
まあ、AIへの教育者にはそれなりの技術的な知識は必要とされるんだろうけど。
— 兼業主夫がれぶる (@GalleonBlue) 2016年3月25日
AIへの教育、ということで、考えを整理中。たぶん、大まかに次の2つが必要。
— 兼業主夫がれぶる (@GalleonBlue) 2016年3月25日
①しごとの知識
・各種マニュアルとか。自動運転もここに入るかな。
②人とのコミュニケーションのとり方
・わるいひとに騙されない、みたいなことも含む。
ひととコミュニケーションをとるなら、人とのふれあいの中で「育つ」ことも必要なのかね。
コミュニケーション教育には、「親」のような存在が必要
今回、マイクロソフトの人工知能である「Tay」がうまく行かなかったのは、先のツイートの②のコミュニケーションに関する教育がなされてなかったから、と思います。人間だったら、親に「人前でそういう汚い言葉を使っちゃダメ」と注意されるところを、それが無かったのかな。#AI
— 兼業主夫がれぶる (@GalleonBlue) 2016年3月25日
AIが非定型で状況を捉えて、人とコミュニケーションを取ることができるためには、ディープラーニングのような方法で、「概念」を学ばせる必要があると思う。でも、コミュニケーションの「教材」としては、いまのインターネットやTwitter上の雑多な情報は、適当ではないみたい。#AI
— 兼業主夫がれぶる (@GalleonBlue) 2016年3月25日
親が良い悪いの判断がつかない子どもに無制限にインターネットなどを見させたりはしないよね。
— 兼業主夫がれぶる (@GalleonBlue) 2016年3月25日
自由に見させたら、刺激が強い方強い方のコンテンツを求め、人格形成に問題をきたすような気がします。
生まれたてのTay君にはネットの海は刺激が強すぎたのかもしれない。#AI
人とコミュニケーションを取るためのロボットなりAIには、そういう意味での適切な「教育」が多分必要で、そのための「教育者」か必要になってくるんだろうな。#AI
— 兼業主夫がれぶる (@GalleonBlue) 2016年3月25日
人工知能に「エロ本を隠れて読む」機微が理解できるのか
「教育」のために、AIの入力情報にペアレンタルコントロールをかけたりするのかな。でも、賢いAIは、そんなの解除しちゃいそう。
— 兼業主夫がれぶる (@GalleonBlue) 2016年3月25日
18歳になるまで、親に隠れてエロ本やエロ動画を見るということを一切せずにいた、なんて男子はほぼおるまい。同じようなことがおきるような気がする。
というか、AIを、友達にする、介護のための年寄りの話し相手にする、保育などの分野で子供の遊び相手にする、などのコミュニケーションに活用するなら「隠れてエロ本を読む」ような機微には通じていてほしいなぁ、なんて。#AI
— 兼業主夫がれぶる (@GalleonBlue) 2016年3月25日
うまく育った「人格者AI」なんてものも出てくるかもしれない。
— 兼業主夫がれぶる (@GalleonBlue) 2016年3月25日
更に未来には、人格者AIに後輩AIの教育を任せたりするのかもしらんです。そして人の仕事はさらになくなる、と。#AI
おまけ
ちゃんと、教育しなきゃ！ / “ヒューマノイドロボット、「人類を殲滅するか」という問いに「はい」と答える” https://t.co/IlXJz83qVj
— 兼業主夫がれぶる (@GalleonBlue) 2016年3月25日
こういうのを再教育せねばならんのですよ。
浦沢直樹の「PLUTO」にロボット刑務所みたいのが出てたな…。
- 作者: 浦沢直樹,手塚治虫,長崎尚志
- 出版社/メーカー: 小学館
- 発売日: 2004/09/30
- メディア: ペーパーバック
- 購入: 3人 クリック: 92回
- この商品を含むブログ (650件) を見る
人工知能は私たちを滅ぼすのか―――計算機が神になる100年の物語
- 作者: 児玉哲彦
- 出版社/メーカー: ダイヤモンド社
- 発売日: 2016/03/18
- メディア: 単行本（ソフトカバー）
- この商品を含むブログを見る