先日の表象文化論学会大会でのAIとジェンダー表象のパネルにいくらか関連した雑記。ビデオゲームについてふだん考えていることと多少かかわりのある話なので、思ったところを書いておく。

このパネルにかんして見たものは以下（学会自体には行ってません）。

• 表象文化論学会第9回大会パネル発表レジュメ：電子の時代のピュグマリオン：ポストヒューマン技術のジェンダー化をめぐる文化的想像力 | Kyoko Ozawa - Academia.edu
• 西條 玲奈「人工知能にジェンダーは必要か：ソーシャルロボットとしてのAIと被行為者性の観点から」表象文化論学会第９回大会 2014年7月6日
• 表象文化論学会パネル「知/性、そこは最新のフロンティア——人工知能とジェンダーの表象」に関するツイート - Togetterまとめ
• 表象文化論学会パネル「知/性、そこは最新のフロンティア——人工知能とジェンダーの表象」後日談 - Togetterまとめ

全体的な感想として、「表象」に加えて「シミュレーション」や「バーチャル」という概念を導入するといろいろ整理できるし、件の表紙絵が持っている問題もよりはっきりすると思う。あとすでに言われていると思うが、UI一般の話なのか、とくにAIのUIの話なのかという点がいまいちはっきりしていない印象がある。

表象、シミュレーション、バーチャル

以下議論。
つかう概念を雑に定義しておく。

• xの表象 : xを表すもの
• xのシミュレーション : xやそれをとりまくシステムの挙動をモデル化する動的システム
• バーチャルx : xが持つ機能を持つxでないもの

ヤギの表象はヤギを表すものすべてである。「ヤギ」という語もそうだしヤギの絵もそうだ。

ヤギのシミュレーションは、ヤギ自体やその環境の挙動をモデル化したシステムである。

バーチャルヤギは、ヤギができることの少なくとも重要な部分をすることができるヤギでない事物。たとえば、ヤギの外見を備えていたり断崖を駆け上がったりメェとないたりできるヤギでない事物。

シミュレーションが表象の一種であるかどうかはけっこう微妙だが（「モデル化」という概念をどうとるかによる）、どちらにせよ、この記事での「表象」はシミュレーションでない表象を指すものとする1。

「バーチャルなもの」と「シミュレーション」は本来ちゃんと区別してつかうべきだが、実際にはしばしば重なるので、単純化のために以下この記事ではまとめて「シミュレーション」と呼ぶ2。

説明図式

これらの概念をつかって以下のものを図式化してみる。

UIを持たないAI

AIは知能をシミュレートするものである。なので、図にすれば以下のようなかんじになる。

AI → Intelligence

AI自体は純粋に抽象的なものであり、UIを持たないかぎりは、少なくともユーザにとってはないも同然だろう。

表象を与えられてないUIを持つAI

図にすれば以下のようなかんじ。3項関係になる。抽象的なシステムとそのUIの関係は「|」で表している。

AI → Intelligence
 |
UI

ヤギの表象を与えられているUIを持つAI

図のように4項関係になる。

AI → Intelligence
 |
UI → Goat

この4項は一般化すれば以下のようになるだろう。

• (1) あるシステム
• (2) そのシステムがシミュレートするもの
• (3) そのシステムのUI
• (4) そのシステムのUIが表象するもの

(1) → (2)
 |
(3) → (4)

どこで問題になるのか

さて、特定の表象を与えられたUIを持つAIが問題になるのは、どの点においてか。

話を単純にするために、掃除にかかわる処理に特化したAIがあるとしよう。 このAIは清掃員の思考と行動をシミュレートするものだと言えるかもしれない。このAIはUIを持っており、かつ、そのUIにヤギの表象が与えられているとする（つまりそのUIがヤギを表象している）。この事物は、一方でそのUIを通して実現されるAIとその挙動によって清掃員をシミュレートしており、他方でそのUIの見え（display）3によってヤギを表象している。

さて、仮にこの事物のpolitical incorrectnessが問題になるとすれば、それはおそらく〈AIがシミュレートする内容とAIのUIが表象する内容の結びつき〉の点においてだろう。つまり、ヤギと清掃員が結びつけられているという点が問題だとされる。そして、それが問題なのは、ヤギと清掃員を結びつけることが現実的に問題だからだろう。

この議論のポイントは以下の4つ。

• たとえそのUIになんらかの表象が与えられていても、そのシステムがなにものもシミュレートするものでないならば、この種の問題は起きない。
• たとえそのシステムがなにかをシミュレートするものであったとしても、そのUIにいかなる表象も与えられていないならば、この種の問題は起きない。
• この種の問題が起きるのは、そのシステムがなにかをシミュレートしており、かつ、そのUIになんらかの表象が与えられている場合にかぎる。
• この種の問題は、シミュレートされるものと表象されるものの結びつきという点にあり、それが問題であるのは、その結びつきが現実上の問題だからである。

実際のところ

とはいえ、事態はもうちょっと複雑だろう。

厄介なのは、シミュレートされるものと表象されるものは実際のところそれほど互いに独立なものではないという点である。あるシステムがシミュレートするものがなんであるかは、そのシステムのUIにどのような表象を与えるべきかにかなり影響する。たとえば都市開発のシミュレーションのUIを考えるとき、そのUIに都市を表象する見えを持たせようとするのはごく自然な発想だろうし、ユーザもそれを期待する。

同様に、清掃員をシミュレートするシステムのUIには、無表象やヤギの表象よりは人間の表象を与えるのが自然かもしれない（掃除が一般的に人間の仕事だとすれば）。さらに同様に、知能やそれにもとづいた仕事が人間のなせるわざだとすれば、それをシミュレートするAIに人間を表象するUIを持たせるのも（少なくともユーザビリティの観点からは）ごく自然な発想ではある。

おそらくこの段階まででは問題は発生しないと思われる。しかし、ここからさらに進んで、人間一般の特徴やその仕事をシミュレートするシステムのUIに、特定の性別、年齢、人種、民族、職業等々の表象を与えるという段階になると問題が生じうる。そのような有徴性を加えなければ問題は起きないはずだが、そこをニュートラルに済ますのは実際にはかなり難しいのかもしれない。

これは、UIが画像的（pictorial）な性格を持つことが多いことに一因があるのだろう。画像は、言語とはちがって、具体的特徴を不確定（indefinite）のまま表すのを得意としない（たとえば、無徴の〈人間〉を表すことは画像ではかなり困難だが、言語だと容易である）。声の表象も、この点では画像と同じような特徴を持つ。

というわけで、この種の問題は、UIをGUIやVUIにすることにまつわる一般的な問題なのかもしれない。

あと細かい話だが（美学者からすればとくに細かくもないあたりまえの話だが）、件の表紙絵も含めたフィクション作品（文学、映画、マンガ、アニメ、ゲーム等々）においてAIがいかに表象されているかという話になると、先の図式に表象のレベルがもういっこ増える。

つまり、その種の作品は、AIやロボットがしかじかの表象を与えられたUIを備えているという状況をさらに表象しているのであって、現実においてAIやロボットのUIにしかじかの表象を与えるというのとは話のレベルがちがう。

こういう事情もあって、フィクション作品の内容をネタにして現実についてなにかを語るというのは非常にあやうい議論であると思っている（もちろん作品が前提している解釈規範やコードや「想像力」に焦点をあわせるのであれば適切なアプローチだが）。

おわり。