有害コンテンツは中央集権で“検閲”すべきなのか? テック企業の思惑はユーザーの権利を脅かす

今年3月にニュージーランドで起きたモスク襲撃事件では、銃乱射によって51人もの尊い命が犠牲になった。この事件では実行犯の「マニフェスト」がネット上で拡散したが、こうした悪質なコンテンツの拡散をいかに防ぐのか。自主規制に加えて一部の大企業による一元管理の動きが加速しているが、そこにはユーザーが情報の検閲から身を守るための議論が抜け落ちているのではないか──。非営利団体「センター・フォー・デモクラシー&テクノロジー(CDT)」のディレクターによる考察。

church

オール・ソウルズ教会の敷地に並べられた50足の靴。2019年3月19日、クライストチャーチの2カ所のモスクで銃撃されて死亡した犠牲者のことを表している。MARTY MELVILLE/AFP/AFLO

ニュージーランドのクライストチャーチにあるアル・ノール・モスクとリンウッド・イスラミック・センターで今年3月、銃乱射事件が起きた。この恐ろしい事件の直後、実行犯の「マニフェスト」が拡散しないようにする取り組みについて、インターネット企業は厳しい目を向けられた。

事件を受けた対応の素早さや、襲撃の様子を撮影した動画の公開状況について、たくさんの疑問が各社には寄せられた。こうした疑問に答えるため、一部の企業はウェブサイトに見解を掲載したり、インタヴューを受けたりした。そして、こうした注目の事件に関するコンテンツモデレーションの取り組みや対応能力について、新たな情報を開示したのだ。

関連記事ニュージーランドの銃乱射で“悪用”された「インターネットの力」と、マスメディアの罪

インターネット企業によるこうした透明性の確保や情報共有は、前向きな動きと言える。情報を取り巻く環境のあり方について筋の通った議論をする際、わたしたちがなすべきことは何だろうか。それは市民や政策を練る人、メディアやウェブサイトの運営者が、クライストチャーチにおける虐殺への対応を生み出したテクノロジーの現状と政策力学について理解することだ。

ただ、クライストチャーチの事件を受けた対応には、不穏な気持ちにさせられるものもある。一部の対応は、これまで以上に権力集中型で透明性に欠けており、インターネットの“検閲”制度へと舵を切っているのだ。

例えば、フェイスブックは「テロリズムに対抗するためのグローバル・インターネット・フォーラム(GIFCT)」で果たす役割を強化する計画について説明している。GIFCTは業界主導による自主規制の取り組みで、フェイスブック、マイクロソフト、ツイッター、ユーチューブが2017年に立ち上げた。

インターネットの“検閲”制度は、どこに向かっているのか

GIFCTの代表的なプロジェクトのひとつに、各コンテンツがもつ電子指紋となるハッシュの共有データベースがある。データベースに参加している企業は、ユーチューブのような巨大企業もあれば、JustPaste.itのような個人企業も含まれる。

こうした企業が、「過激でひどく悪質な」テロリストのコンテンツを特定するのだ。データベースに存在するコンテンツをユーザーがアップロードしようとすると、これを自動的に突き止める仕組みである。

フェイスブックは、銃乱射事件を受けてデータベースに800のハッシュを新たに加えたと発表した。いずれも、クライストチャーチの動画に関連している。

発表によると、GIFCTが「コンテンツのハッシュではなく、URLを系統立てて共有する実験を始めている」という。すなわち、URLを集めた「ブラックリスト」をつくっているということだ。このリストは動画やアカウントのみならず、いずれはウェブサイトやフォーラム全体に対する広範なブロッキングを促進するだろう。

マイクロソフト社長のブラッド・スミスは、GIFCTに基づき業界全体が行動を起こすようブログで呼びかけたうえで、大きな事件が起きた際にテクノロジー企業が協力し合える「インターネット上における共同指令センター」を提案した。このセンターでは、どのコンテンツがブロックすべきものなのか、あるいは「公益」に適っているものなのかについて判断を下せる。

ちなみに、ジャーナリストや報道機関の間では、クライストチャーチの事件を公益のためにどのように報道するかについて、かなり議論がある。しかしスミスは、どうやってテクノロジー企業が合意に達することができるかについては説明していない。とはいえ、もし企業や米国流の視点に基づいて一方的に決定するのであれば、世界中のユーザーは納得しないだろう。

透明性に欠ける検閲用データベース

ハッシュのデータベース拡大に伴う大きな問題は、このデータベースが長年にわたって透明性に欠け、説明責任が曖昧であることだ。データベースにかかわる企業体の外部にいる第三者には、データベースに何が存在しているのかわからない。コンテンツの独自調査、つまりデータベースからコンテンツを削除する際の審査手続きについても、確立した仕組みがないのだ。

投稿が削除されたユーザーや、ウェブサイトに参加できなくなったアカウントについては、その理由がたとえデータベースに含まれていたからだとしても、このことを通知されることすらない。コンテンツがデータベースに加えられたことが不適切かどうか外部からは知り得ないので、適切でない措置だとしても正す方法がないのだ。

自動化されたフィルタリングツールを用いた検閲を広範囲に広げすぎることの危険性は、インターネットの歴史において、ごく初期に明らかになっている。ハッシュのデータベースも同じ危険に陥りやすいことは疑う余地もないだろう。

また、テロリストのプロパガンダをターゲットにしているコンテンツモデレーションは、報道、政治的抗議、ドキュメンタリー映画やそのほかにも入り込むリスクがあることは周知の事実だ。GIFCTは、データベースに加えられたコンテンツの自動的な削除を参加企業に求めているわけでもない。

一方で、比較的小さなプラットフォームの場合はリソースが不足しているという課題もある。膨大な数のコンテンツの人の目で確認したくても、そのための人材が足りない。巨大企業のユーチューブですら、動画が1秒につきひとつアップロードされるペースに圧倒されている。実際に、クライストチャーチの銃乱射事件から数日間、ユーチューブは人間が動画を見て適正かどうか判断せずに、動画をまとめて削除した。

NZ

ニュージーランドのクライストチャーチで起きたモスク襲撃事件の死者数は51人になった。MARK BAKER/AP/AFLO

コンテンツ管理に干渉

クライストチャーチの事件以来、GIFCTのデータベースを活用しようというよりも、一元的に検閲を押し進めようとする動きのほうが勢いを増している。

例えばマイクロソフトのスミスは、ブラウザーベースのフィルタリングという恐ろしい考えを打ち出した。これが実現すれば、ユーザーは閲覧禁止コンテンツにアクセスしたり、それをダウンロードしたりできなくなる。ブラウザー自体にフィルタリング機能を付けることが義務づけられたり標準になったりすれば、コンテンツ管理はウェブのレヴェルまで深く及ぶ。

現に、オーストラリアのインターネット・サーヴィス・プロヴァイダー(ISP)3社は、あからさまな手段をとった。銃撃の動画を載せたウェブサイトがそのコピーを削除するまで、こうしたウェブサイトへのアクセスをブロックするというものだ。

3社はこの措置を異常な事態だと認めている。一方で、この出来事を通じてプロヴァイダーとしての力をまざまざと見せつけた。ユーザーがどのウェブサイトにアクセスしたり、投稿したりできるかを最終的に決める権限はISPにあるのだ。

抜け落ちた論点

恐ろしい目的を秘め、インターネット上でじわじわと広がっていくコンテンツは、もともと拡散しやすい性質をもっている。こうしたものをどうやって管理すればいいのか。その方法を政策に携わる人や産業界のリーダーが論じるとき、焦点となるのは往々にしてこの手のコンテンツを迅速かつ網羅的に、そして確実に削除する方法だ。

しかし現状では、行き過ぎた検閲から身を守る手立てがないばかりか、その危険性について議論すらされていない。こうしたなか、コンテンツを迅速に幅広く削除するという考えには無理があり、無責任ではないだろうか。GIFCTのような自主規制による取り組みは、特定の政策問題への対処だけでなく、政府による規制が広範囲に及ぶのを阻止する役割も担う。

言論の自由を守るための有意義な対策もないまま、欧州連合(EU)など複数の政府が、ハッシュのデータベースを導入しようとしていることや、そのデータベースを自主的な取り組みから法的義務に変えようとしている。そんな現実をわたしたちはすでに目の当たりにしてきた。

こうしたことは、どんな自主規制の取り組みも直面する問題だろう。情報の検閲から身を守るための手立ては、提案されるソリューションに含まれていなければならないのだ。

ひとつの“物差し”ですべては測れない

しかし、こうした問題以前に、コンテンツの一元的な管理を前提とするソリューションには、根本的な恐ろしさがある。そもそも、表現の自由を促進するというインターネットの強みは、インターネットがひとつの権力に縛られない性質に基づいている。だからこそ、プラットフォームの多様性が保たれるのだ。

インターネットがひとつの権力下に置かれないため、一部のウェブサイトでは安心感や娯楽、あるいは子どもにふさわしい体験を提供することに重点を置くことができる。一方で、議論を促進したり、客観性に優れた百科事典をつくったりするほか、戦争犯罪を詳細に記録した動画のアーカイヴを目指すウェブサイトもあるだろう。いずれも方向性は異なるものの、称賛に値する目的をもっている。

ただ、コンテンツそれぞれの基準と、モデレーションの方法が必要なのだ。クライストチャーチの事件を受けて、わたしたちはどこへ向かうべきなのだろうか。それを考えるとき、ひとつの“物差し”ですべてを測ろうとする解決策を警戒しなければならない。そして、開かれたインターネットの多様性を維持するために、行動を起こさなければならないのだ。

エマ・ランソ|EMMA LLANSÓ
非営利団体「センター・フォー・デモクラシー&テクノロジー(CDT)」のディレクター。主に表現の自由について担当している。

RELATED

SHARE

ザッカーバーグは、Facebookを「人の心を読み取る装置」にしようとしている

フェイスブックマーク・ザッカーバーグは、とコンピューターを直に接続するブレイン・コンピューター・インターフェイス(BCI)によって、個人と個人のコミュニケーションが活性化されると考えている。あくまで「テクノロジーは個人に力を与える」もので、プライヴァシーを損なうとは捉えていないのだ。こうしたアイデアが、いったい世界にどんな影響をもたらしうるのか──。ジャーナリストのノアム・コーエンによる考察。

TEXT BY NOAM COHEN
TRANSLATION BY TAKU SATO, HIROKO GOHARA/GALILEO

WIRED(US)

Examining The Brain Electronically

マーク・ザッカーバーグの「振り返りの旅」が明らかにしたことがあったとすれば、それは彼がフェイスブックがもたらしたさまざまな問題に取り組みながらも、「次」を夢見るのに忙しいことだろう。HULTON-DEUTSCH COLLECTION/CORBIS/GETTY IMAGES

フェイスブックはユーザーの個人情報の適正な取り扱いについて、深刻な問題を抱えているのではないか──。そう懸念している人たちは、ハーヴァード大学でのマーク・ザッカーバーグの発言を聞いてハラハラしたに違いない。

ザッカーバーグがハーヴァード大学を訪れたのは、2019年2月のことだった。彼は社会に存在する「チャンス、課題、希望、不安」に対してテクノロジーが果たす役割について、専門家たちと1年かけて対話するという個人的な旅を続けていた。その一環として、ハーヴァードにやって来たのだ。

そしてフェイスブックのカメラと学生たちが見つめるなか、ハーヴァード大学法科大学院教授のジョナサン・ジットレインと2時間近く会談した。議論の中心は、およそ20億人の人々が集う前例のない存在になったFacebookについてだった。

当初は謙虚だったザッカーバーグ

若き最高経営責任者(CEO)が語るところによると、フェイスブックは四方八方から非難されていた。同社のプラットフォーム上で人種間の対立が悪化することに無関心だという非難もあった。どのような投稿を許可するのか判断する上で、荒っぽい検閲を実施したという非難もあった。

ザッカーバーグは、そんな重大な責任を負う立場になることを自ら追求したことはないのだと“告白”した。また、誰もそうなるべきではないのだと語った。「もしわたしが別の人間だったとしたら、会社のCEOに何ができるようになってほしいと思うでしょうか? コンテンツに関する多くの判断を、たったひとりの人間には集中させたくないと考えたでしょう」

そこで最高裁判所の役割を果たす機関を設けることにしたのだと、ザッカーバーグは語った。Facebook上で発生するやっかいな問題の処理を、外部の委員会に委託するというのだ。「(委員会の)意見を覆すような決定をわたしができないようにします」と、彼は約束した。「それが適切だと思っています」

ここまで、会談はうまくいっていた。ザッカーバーグは、自分自身についても自身の会社についても、好感のもてる謙虚な態度を示していたのだ。ところがその後、将来的に大いに期待する新しいテクノロジーについて語り始めたときに、おなじみのシリコンヴァレー的な傲慢さが蘇ることになった。

神経で制御できる世界

彼が説明した有望なテクノロジーとは、フェイスブックが以前から研究を続けているブレイン・コンピューター・インターフェイス(BCI)だ。このインターフェイスを使えば、ユーザーは頭のなかで考えるだけで拡張現実(AR)を操作できるようになる。

関連記事「脳とコンピューターをつなぐ」というFacebookの次なる野望に関するいくつかの疑問

『WIRED』US版の創刊エグゼクティヴ・エディターのケヴィン・ケリーが最近の記事「ミラーワールド:ARが生み出す次の巨大プラットフォーム」[日本語版記事]で述べたように、これはいわば、脳神経で制御できる世界だ。ユーザーはコマンドを入力する必要がないばかりか、コマンドを述べる必要もない。したがって、ARの世界とやりとりする際に動作を止めたり、遅くしたりする必要がない。クルマを運転しているときに情報や指示を高速道路上に表示させたり、会議の最中に各参加者のプロフィールを確認したり、家具の3Dモデルを自分の部屋であちこち動かしたりする際のことだ。

ハーヴァード大学の聴衆は、そうした話をこのタイミングで始めたザッカーバーグに少し困惑していた。そこでジットレインは、法学部の教授らしいジョークを飛ばした。頭のなかを盗聴できるテクノロジーの前でも、憲法では黙秘権が認められている──という趣旨だ。彼は「(黙秘権について定めた)合衆国憲法修正第5条の意味するところが揺らいでいるのですね」と語り、聴衆の笑いを誘った。

Facebookが脳のなかを覗き見る日が訪れる?

だが、このような控えめな異議申し立てに対して返ってきたのは、ユーザーのプライヴァシーやユーザーの同意を踏みにじっていると批判された巨大テクノロジー企業がよく放つような弁明の言葉だった。「おそらく」と、ザッカーバーグは言った。「こういったテクノロジーは、誰かがプロダクトとして利用することを選ぶでしょうね」

つまりザッカーバーグは、楽しさと利益のために世界の人々を接続するという、自らに課したミッションから逸れるつもりはないのだ。警察が人の頭のなかを捜査できるようになるディストピア的な未来のイメージをもってしても、長期にわたる謝罪行脚をもってしても、彼の気持ちは変わらないようだ。

「どうしてこのような話題になったのかよくわかりませんが」と、ザッカーバーグは楽しそうに語った。「未来のテクノロジーや研究について、わたしなりに興味深いと思っているのです」

ご存知のように、フェイスブックはすでに、あなたのポケットに入っているスマートフォンのGPSを利用して、あなたのことを世界中で追跡している。あなたがブラウザーを使っているときでも、サイトに埋め込んだコードを利用して、同じように追跡しているのだ。

わたしたちはいずれ、少しでも速くピザを注文したりトッピングを追加したりできるようにするために、脳みその中をフェイスブックが覗き見るのを許可するようになるのだろうか。ザッカーバーグがそう期待しているのは明らかだ。

「シャワーキャップのような」プロダクト

公平を期すために言えば、フェイスブックは本当にわたしたちの頭のなかを覗こうとしているわけではない。その理由のひとつは、ザッカーバーグによれば、脳に何かを埋め込むような移植手術が一般的になる可能性はないからだ。「誰もが使うようになるものを本当につくろうとするなら、体内に埋め込む必要のないものにフォーカスする必要があります」と、彼は語った。

ザッカーバーグによると、この新しいテクノロジーを利用したプロダクトは「シャワーキャップのようなもの」になるという。頭に覆い被さるように取り付けられたデヴァイスが、特定の思考を血流や脳の活動と関連づけ、フェイスブックの一部門であるオキュラスがつくる仮想現実(VR)ゴーグルやヘッドセットをアシストすることになるのだろう。

すでに研究レヴェルでは、ニューロンの活動を解析することで、被験者がキリンとゾウのどちらを思い浮かべているのかを区別できるようになっている、とザッカーバーグは語る。頭のなかで考えるだけで何かを入力できる仕組みも、同じ原理で可能かもしれない。

フェイスブックが手がけるほかのさまざまな新しいテクノロジーについても同様なのだが、ザッカーバーグはBCIを、「個人のプライヴァシー」を損なうものとしては捉えていない。

個人のプライヴァシーとは、のちに最高裁判事を務めた法律家ルイス・ブランダイスが19世紀末に、「ひとりで放っておいてもらう権利(right to be let alone)」として定義したことで有名な概念だ。ザッカーバーグはBCIが、人の思考におけるプライヴァシーを侵害するとは考えない。「テクノロジーは個人に力を与える」と、彼は考えるのだ。

「今日の携帯電話の仕組みや、さまざまなアプリやタスクを制御しているコンピューティングシステムは、どれもわたしたちの脳の動き方や世界へのアプローチの仕方とは根本的に異なっています」と、ザッカーバーグは言う。「このことが、特にARなどについて、わたしが長期的な観点からとても期待している理由のひとつです。なぜならそれは、人間の思考様式と同様のプラットフォームを提供してくれるからです」

脳から情報を入力できるシステム

ケヴィン・ケリーが「ミラーワールド」に関する記事のなかで注目していたのも、日常の風景に重ねて「スマートな」情報が表示され、便利になる世界だった。ケリーはこうした仮想世界について、「時計は椅子を検知し、椅子はスプレッドシートを検知し、メガネは袖の下に隠れた時計でさえ検知する。タブレットからはタービンの中を見ることができ、タービンは周囲で働く人々を見ている」と述べている。

関連記事ミラーワールド:ARが生み出す次の巨大プラットフォーム

つまり、わたしたちの自然な環境と人工的な環境が、突然ひとつの統合された全体世界として機能するようになるのだ。思考と欲望でいっぱいの人間は、BCIで強化されたゴーグルを着用するまで、この世界に参加することはできない。

ザッカーバーグは17年、フェイスブックの研究活動について発表した際に、BCIのメリットを次のように説明していた。「わたしたちの脳は、1秒間に4本のHD動画をストリーミングするのと同じ量のデータを生成しています。問題は、わたしたちが情報を世に送り出す最適な方法である『話す』という行為が、1980年代のモデムと同じくらいの量のデータしか送信できないことです」

「フェイスブックが研究しているシステムでは、いまの携帯電話で入力するのと比べて5倍速く、脳から直接情報を入力できるようになります」

「最終的には、このテクノロジーをウェアラブル製品に変え、大量生産できるようにしたいと考えています。『はい』か『いいえ』を『頭脳でクリック』できるようになるだけでも、ARのようなものを、いまよりはるかに自然に感じられるようになるでしょう」

ザッカーバーグが夢見ること

ザッカーバーグは、スティーブ・ジョブズがコンピューターについて、「知性の自転車のようなもの(Computers are like a bicycle for our minds)」と表現したことを、好んで引用する。想像するにザッカーバーグは、「少しくらい速くペダルをこげるようにしたからといって、何が問題なのだろうか」と考えているのではないだろうか。

個人的にはザッカーバーグの考え方を反射的に拒絶しているが、素晴らしいことが実現する可能性を見くびっているわけでもないし、彼らの研究を阻止するほうが安全で望ましいと考えているわけでもない。だが少なくとも、わたしたちの頭のなか、ひいては社会のなかに密かに侵入してくるようなテクノロジーについては、厳しい問いを投げかける必要があるだろう。

われわれはシリコンヴァレーにブレーキをかける必要がある。少なくとも、一時的には。なぜなら、「ザッカーバーグによる振り返りの旅」が明らかにしたことがあったとすれば、それは彼がフェイスブックがもたらした害悪に取り組みながらも、「次」を夢見ることに忙しくしているという事実だからだ。

ノアム・コーエン|NOAM COHEN
ジャーナリスト。『ニューヨーク・タイムズ』記者として創業期のウィキペディアやツイッター、黎明期にあったビットコインやWikileaksなどについて取材。著書に『The Know-It-Alls: The Rise of Silicon Valley as a Political Powerhouse and Social Wrecking Ball』などがある。

RELATED

SHARE