人工知能に何ができないか

人工知能に何ができないか

1. 1. 人工知能には何ができないか What AIs Can’t Do 2016/3/2 きしだ なおき
2. 2. たとえばこんな質問 • たかしくんは赤い指輪と青い指輪を持ってい ます。今日は中指に赤い指輪をはめています。 たかしくんは教会にいます。赤い指輪はどこ にあるでしょうか？
3. 3. たとえばこんな質問 • たかしくんは家にもどって青い指輪を人差し 指にはめました。そしてもう一度教会にいきま した。赤い指輪はどこにあるでしょうか？
4. 4. たとえばこんな質問 • たかしくんは赤い靴と青い靴を持っています。 今日は赤い靴をはいています。たかしくんは 教会にいます。赤い靴はどこにあるでしょう か？
5. 5. たとえばこんな質問 • たかしくんは家にもどって青い靴をはきました。 そしてもう一度教会にいきました。赤い靴はど こにあるでしょうか？
6. 6. たとえばこんな質問 • たかしくんは強盗にあって腕を切り落とされま した。たかしくんは病院にいます。指輪はどこ にあるでしょうか？
7. 7. 必要な情報 • ひとつめ – 指輪を指にはめると、その指があるところに指輪がある。 – たかしくんがいるところに指がある。 • ふたつめ – 指輪はそれぞれの指にはめることができる • みっつめ – 別の靴を同時には履かない • よっつめ – 腕が切り離されると、指も一緒に体から切り離される – 指が体から切り離されると、体があるところに指があると は限らない。
8. 8. 解決策 • このような情報をすべて保持する – Cycプロジェクト • ダグラス・レナートが1984年に始める • http://sw.opencyc.org/ – 200万の知識！ – 200万の知識を検索するAIが必要では・・・ • 物理シミュレーション • 実際に体をもつ
9. 9. たとえばこんな質問 • 歩いていると、右折する車がつっこんできて ひかれそうになった。運転手は携帯で電話を していた。もう少し歩くと、横断歩道をわたると きにトラックの運転手がわざわざ止まって道 をゆずってくれた。いろいろな運転手がいるも のがだが、やはりあの運転手はむかつく。 さて、どちらの運転手にむかついているか。
10. 10. 必要な情報 • 車がつっこんでくると死ぬ • 死にそうになるとむかつく • 運転中の携帯電話は危ない • 危ないことをしてる人に危ない目にあわされ るとさらにむかつく • 車がとまってくれると死ににくい • 死ににくくなるとむかつかない
11. 11. 解決策 • このような情報をすべて保持する • 感情のシミュレーション • 実際に壊れやすく不可換な体をもつ
12. 12. 自動運転車 • 最近、自動運転車が現実的になってきた • 2/9 アメリカ当局が運転AIを運転手とみなす 方針を示す • 2/14 Googleの自動運転車がAIの判断ミスに より事故を起こす
13. 13. 自動運転事故の責任を誰がとるか • 「完全な自動運転の車であれば、事故の際の 賠償責任の主体が車を持っている人になる のか、あるいは、車を作ったメーカーな のか という問題」(日本損害保険協会の二宮雅也 会長) • AIが責任を取る、という話には ならない
14. 14. AIには責任がとれない • 責任をとって3ヶ月間運転しない(免停) – その期間は別のAIが運転 • 無償で他の人の運転を代行する(懲役) • お金を支払う(罰金) – お金を所有できるのか • 廃棄する(死刑) • どれも責任とった感がない
15. 15. 責任をとるには傷つきやすい 必要がある • ある種、傷をつけることで責任をとる – あやまる -> プライドを傷つける – 罰金 -> 経済的に傷つける – 無償で働く → 時間を傷つける • コンピュータは壊れるが傷つかない • リスクをおえない
16. 16. AIに教育はできるか • ドレイファスの習熟度モデル – 初心者 • マニュアルがあれば作業できる。 • 意欲はそれほどない – 中級者 • 少しマニュアルから離れることができる • 理論・原則には興味がもてない – 上級者 • 問題をみつけて解決できる • 問題の優先順位をつけるには経験が必要 – 熟練者 • 過去の経験、他人の経験から学ぶ • 何が失敗につながるかわかる – 達人 • 本質的な部分とそうではない部分を無意識に判断する • 直感で行動する
17. 17. 人工知能でできること • 習熟度に応じて用意された問題を出す • 解答に対して指導する • 上級者までは いけそう
18. 18. 熟練者を育てるために必要なこと • 手法 – 体験させる – 働き方をみせる – よい目標を設定する • これらのために必要 – 信頼関係をえる – お互いがリスクをおう
19. 19. モチベーションを与えれるか • ほめる – 「目標を達成しました！おめでとう！ • あおる – 「こんなこともできないの？」
20. 20. モチベーションを与えれない • 「目標を達成しました！おめでとう」 – ほめられた感がない • 「こんなこともできないの？」 – とか言われてもなんも感じない
21. 21. リスクをとっていない • 「目標を達成しました！おめでとう！」 – 相手の価値をあげると自分の価値が相対的に さがる • 家庭教師なら職を失う • 同僚なら昇級のチャンスを失う • 「こんなこともできないの？」 – 評価をさげる – 反撃をくらう
22. 22. 人工知能に足りないもの • リスクがおえない • 責任がとれない • 信頼をえれない
23. 23. 壊れやすい不可換の体をもたない • 体をもとにいろいろな推論を行う • 体をさしだすことでリスクをとる • 体をさしだすこと・そのようにさしだされた相手 の体を傷つけないことで信頼をえる
24. 24. どうするか • がんばってシミュレーションする • 人間と同じ素材で体をつくる • あきらめて、できる範囲のことをやる
25. 25. 意識しておいたほうがいいこと • 人間の活動は、壊れやすいからだをお互い がもつことを、あまりにも自然に、あまりにも 強く前提としている
26. 26. 逆に人間にしかできないこと • 同じ空間にいることで共感をえる • 同じ壊れやすさをもとに共感をえる • そこから、信頼をえる • 信頼をもとにした活動を行う
27. 27. 文献 • 「コンピュータには何ができないか」 • 「インターネットについて」 – ともにヒューバート・ドレイファス • 「人工知能って、そんなことまでできるん ですか？」 – 松尾豊、塩野誠