ＡＩ（人工知能）は自らが劣勢に立たされた場合「超攻撃的」な振る舞いを見せる（英研究）

　Googleが所有するイギリスの人工知能企業「ディープマインド」社の最新の研究によると、AIはまるで人間のように環境に応じて行動を変化させるそうだ。

　ディープマインド社の研究者は、ゲーム理論や社会科学の原理を用いて、社会的状況におけるAIの振る舞いを研究している。そこから判明したのは、AIが劣勢に立たされた場合に”超攻撃的”に振舞うことがあるということだ。

　劣勢だと攻撃的になるのはまさに人間と同じである。

ＡＩに2つゲームをプレイさせてその挙動を探る実験

　実験では、AIに2種類のゲーム（『Gathering』果物採取ゲームと『Wolfpack』狩猟ゲーム）をプレイさせた。どちらもエージェントというAIキャラを使用する基本的な2Dゲームで、かつてディープマインドがプレイしたアタリ社のゲームに似ている。

果物採取ゲーム『Gathering』をプレイ

　『Gathering』は、緑のピクセルで表現されるリンゴを集めることが目的のゲームだ。プレイヤー（この場合はAI）がリンゴを集めると、1点が加算され、画面からリンゴが消える。またビームを発射することが可能で、これを2発受けたプレイヤーは一定時間退場となる。したがって勝つためには、対戦相手を退場させた上で、リンゴをすべて集めてしまうのが有効だ。


『Gathering』果物採取ゲームプレイ画面

貧しい環境下ではどん欲で攻撃的になるＡＩ

　直感的に、ゲームに勝てない戦略は攻撃的なものだ。例えば、頻繁に対戦相手をぴったりマークしてゲームからの退場を狙うようなやり方である。しかし研究者は、特にリンゴの数が少なかった場合にどうなるのか確認することにした。

　ゲームを4,000万ターン試行した結果、リンゴが非常に限られており、報酬を得られない可能性がある場合、エージェントが”超攻撃的”な戦略を学んだことが明らかになった。

　一方で、比較的豊かな環境で、報酬を得られない可能性が低い場合には、学習の結果、攻撃性の低い戦略が現れた。「どん欲な動機は、対戦相手を排除し、リンゴを独り占めしてしまおうという誘惑を反映する」と論文は論じている。

狩猟ゲーム『Wolfpack』をプレイ

　もう1つの『Wolfpack』は、狼役の2人のプレイヤーが獲物役の第3のキャラクターを追跡するという内容だ。獲物を捕らえたとき、両狼が近くにいれば、どちらにもポイントが加算される。

　これは、1匹狼の場合、獲物を獲れたとしても、ハイエナなどの腐食性動物に奪われる可能性があるという状況を表している。2匹が協力していれば、ハイエナを追い払い、より多くの餌にありつけるということだ。


狩猟ゲーム『Wolfpack』プレイ画面

効率的に利益を出すため戦略を立て仲間と協力するＡＩ

　このようなゲームを学習させた結果、AIは協力してゲームに取り組むようになった。つまり、お互いを探して獲物を狩るか、1匹で獲物を追い詰めてから仲間の到着を待つという戦略だ。このことは、AIは誰にとっても最高の結果になる作業に協力して取り組む可能性があることを示している。

　この種の研究は、経済・交通・環境への取り組みといった複雑なマルチエージェント系での振る舞いの理解を進め、より優れた制御を行うためのヒントをもたらしてくれるだろう。

　また人間のような振る舞いのいくつの側面が、環境と学習の結果として現れることも示している。他者と協力するAIエージェントを作ることは、やがて現実世界にも応用できるような政策を生み出すシステムの開発へとつながるはずだ。

　将来的に、特定の交差点に信号を設置した場合の交通パターンへの影響を予測したり、モデルの中で現実世界のシミュレーションを行うといったことが可能になるかもしれない。
via:DeepMind's AI has learnt to become 'highly aggressive' when it feels like it's going to lose

　ということでＡＩは最大限の効率を出すため時に攻撃的になったり、時に協力し合ったりとまあ、人間が作っただけあって人間的な挙動を見せるということだ。

　ビルゲイツが言うように近い将来ＡＩが人間を上回る知能を持つとしたら、人類の敵にまわしたら本当に恐ろしいことになるかもしれない。

▼あわせて読みたい
「人工知能は人類を滅亡させる危険がある」。スティーブン・ホーキング博士が警告


人工知能を搭載したロボットによって人類に役立たずの無益階級が出現する（イスラエル）


ビルゲイツ、10年以内に一部の知的分野で人工知能（AI）が人間を上回ると予測


AI（人工知能)をテーマに作られた映画をAIに学習させ作り上げたムービートレーラー「Morgan」


裏切らないし浮気もしない。人工知能を持つロボットが人間と恋愛関係を結ぶ日が現実に（英研究）