インターネット上の百科事典「Wikipedia」は、2017年4月現在295の言語で計4400万以上の記事が公開されており、ネットの調べ物には定番の参照先となっている。その記事編集作業の一部は自動化されたソフトウェア、いわゆるBotが担うことで効率化されつつあることをご存知だろうか？

だが、新たな研究によれば、WikipediaのBot同士がお互いの編集作業を打ち消しあう編集合戦に陥っているケースが少なくなく、しかもその状態が長年気づかれないまま放置されていたことが判明した。

Wikipediaの膨大な記事編集を担っているのは、基本的にはすべてボランティアの人間だが、人によってはその作業をBotに任せている。オックスフォード大学インターネット研究所のミレーナ・ツヴェトコヴァ（Milena Tsvetkova）らの論文によれば、Wikipediaで行われる編集行為の15％はBotが行っている。それでも数の上ではBotは人間の0.1％に過ぎず、非常に作業効率が高いことがわかる。

だがツヴェトコヴァらの研究は、Botの意外な非効率性を明らかにした。Wikipediaが立ち上がった2001年から2010年までのWikipediaの編集履歴を分析した結果、一部のBot同士が果てしない編集合戦に陥っていたのだ。人間であれば、誰かが自分の作業を繰り返し差し戻していればある段階で気付いて話し合うなどの対応を取るはずだが、WikipediaのBotにはそのようなチェック機能がなかった。ツヴェトコヴァらは、Botの挙動の管理がそれぞれのボランティアに任されていて、一元管理されていないことを問題視している。

とはいえ、WikipediaがBotによる編集を想定していないわけではなく、Botに関する方針を明文化して利用を承認制にするなどの制限は行っている。またその方針の中では、Botの利用条件のひとつとして「『議論の余地』がある編集に使わないこと」が定められており、理論上は編集合戦など起こらないはずだった。

それでも、たとえば「アーノルド・シュワルツェネッガー」や元パキスタン大統領の「パルヴェーズ・ムシャラフ」、または「ウズベキスタン」「アラビア語」などの記事において、Bot同士の意見が食い違っていた。その傾向についてツヴェトコヴァらは、Bot同士の編集合戦は複数の言語をまたぐテーマについて起こることが多かったと分析している。たとえば（これは作例だが）「アーノルド・シュワルツェネッガー」の記事内の地名「オーストリア」からWikipediaの「オーストリア」の記事にリンクを貼る際、あるBotは日本語版にリンクし、別のBotは英語版にリンクする、といったことである。言語の違いが盲点となり、想定外の事態が起きてしまっていたようだ。

幸い2013年に異なる言語間のリンクを補助する仕組み「Wikidata」が立ち上がって以降Botの編集が激減した。そのためツヴェトコヴァらは、現在上記のようなBotの戦いはなくなったと見ている。

だが彼らの研究があぶりだした問題の範囲は、当時のWikipediaだけにとどまらない。ここで示されているのは、自律的に動作するBotは、Wikipediaのような限られた空間で、一定の承認プロセスを経ていても、予期しない結果を生み出しうるということだ。今後自動運転車を始めさまざまなBotがリアルの世界で動くようになることを考えると、この知見は重要な意味を持つ。

この研究はさらに、言語によるBotの挙動の傾向の違いも明らかにした。たとえばドイツ語とポルトガル語を比較すると、後者の方がBotによる編集回数が多く、他のBotによる編集の差し戻しは前者が10年間で25回、後者が185回と大きく異なっていた。Bot同士の衝突や違いについて、ツヴェトコヴァらの論文には次のように記されている。

この複雑さの一因は、それぞれのBotやBotが動く環境の背景には人間の設計者が存在するという事実、そして人工物は人間の文化を体現するものだという事実がある。Botがより繁栄し、洗練されていく中で、社会科学者たちは人間の文化や社会生活の理解により注意を向ける必要があるだろう。

たとえば自動運転車においても、国や地域、環境が違えば交通法規が異なるだけではなく、マナーやモラルといった微妙な面での調整が必要になるだろう。たとえば筆者の体験では、アメリカの交差点では青信号になると先頭車がいきなり左折（日本でいえば右折にあたる）することがしばしばあり、逆に直進車は発進までに一定の間を取る傾向がある。だが東京の交差点で直進するときに同じように一拍置こうとすれば、おそらく後続車から煽られるであろう。また国だけでなく、都市か地方か、広い道か入り組んだ道かでも運転に違いが出る。論文共著者のタハ・ヤッセリ（Taha Yasseri）はプレスリリースの中で次のように語っている。

自動運転車は、ドイツのアウトバーンとイタリアのトスカーナの丘では異なる走りをするでしょう。同様に、Botが生息するローカルなオンラインインフラも、Botの挙動や性能に一定の影響を及ぼすことでしょう。

そしてBotは、動作する環境だけではなく、それを開発する人物や組織の考え方の影響を大きく受ける。たとえば自動運転車の速度に関していえば、Googleではあえて制限速度を時速10マイル（16km）超過して走行できるよう設計されたことが知られている。一方、すでに自動運転車を公道で走らせているTeslaは、ソフトウェアアップデートで制限速度超過を不可能にしたり、その後すぐ可能に戻したりと方針がぶれているように見える。現状では、速度に対する考え方ひとつとっても作り手によって、またはそのときの状況によって異なっているのだ。

現在自動運転車だけではなく、たとえばAppleのSiriやAmazon Echoのようにユーザーの音声を聞き取って家の照明や音響機器を操作できるデバイスなど、リアルなものを動かしうるBotがさまざまな場でバラバラに開発されている。だが、異なる思想や経緯で作られたBotがひとつの場に放り込まれると、Botの作り手が予期しなかったような結果が起こりうることが明らかになった。Botがフル活用される社会の安全性を担保するには、Bot同士の相互作用を検証する大規模な実験や、Botを何らかの形で一元管理する仕組みが求められてくるのかもしれない。