欧州連合（ＥＵ）がソーシャルメディア上のヘイト動画に対する規制に動き出している。

ＥＵの行政機関にあたる欧州委員会（ＥＣ）は５月２５日、「２０１０年オーディオ・ビジュアル・メディア・サービス指令（ＡＶＭＳＤ）」の改正提案を発表した。

この中に盛り込まれているのが、暴力やヘイト扇動コンテンツの動画共有サービスからの排除だ。

具体的には、フェイスブックやユーチューブなどのソーシャルメディアが規制対象となる。

改正作業は欧州議会、閣僚理事会、ＥＣのトリローグ（三者対話）で進められる。

ソーシャルメディア上のヘイトコンテンツをめぐっては、ドイツ政府はソーシャルメディアがヘイトスピーチやフェイクニュースなどの違法・有害コンテンツをすみやかに削除しなかった場合、最大５０００万ユーロの罰金を科す法案を作成。

また英国では、ユーチューブ上でヘイト動画に政府などの広告が掲載されていることが発覚。

議会からは、ソーシャルメディア側の対策は「極めて不十分だ」として法規制を求める報告書が公開されている。

一方、英ガーディアンは、フェイスブックがこれまで明らかにしてこなかった、コンテンツ削除の線引きに関する詳細な内部文書を暴露。コンテンツ削除の実態を明らかにした。

ソーシャルメディアの「メディアとしての責任」と法規制、表現の自由のせめぎ合いが、大きな焦点となっている。

●欧州委員会の提案

５月２５日に発表されたのは、ＥＵ域内でのテレビ・ネットなどの映像コンテンツ流通と規制に関する「２０１０年オーディオ・ビジュアル・メディア・サービス指令（ＡＶＭＳＤ）」の改正提案。

注目されるのは、ヘイト動画などの違法・有害コンテンツ排除義務を、ソーシャルメディアに科すという点だ。

改正指令によって、加盟国は、動画共有プラットフォームの提供事業者が、適切な対策（共同規制が望ましい）を導入し、（１）未成年を有害コンテンツから保護する（２）すべての市民を暴力やヘイト扇動コンテンツから保護するよう、措置を講じる義務を負う。

欧州委員会のデジタル単一市場担当副委員長、アンドルス・アンシプ氏は、この改正提案にこうコメントしている。

我々は動画視聴の新たなスタイルを考慮に入れ、サービスのイノベーションを促進し、域内の映像産業を推進するとともに、より効果的な方法で子どもたちを守り、ヘイトスピーチに対処するための、適切なバランスを探っていく必要がある。

改正作業は欧州議会、閣僚理事会、ＥＣのトリローグ（三者対話）を経て、年内にも成立する、と見られている。

●ドイツで罰金法案

フェイスブックやグーグルなど、大規模にコンテンツ配信を行うネットサービスに対して、そのコンテンツの扱いに対してメディアとしての責任を問う動きが、相次いでいる。

特に注目を集めたのは、フェイクニュースが氾濫した２０１６年の米大統領選だ。

自主的な取り組みを表明するネットサービスに対し、ＥＵではヘイトスピーチなどの違法・有害コンテンツ排除を法規制によって義務づけるケースも出てきた。

ドイツでは、ソーシャルメディアに対し、ヘイトスピーチなどの明確な違法コンテンツであれば２４時間以内、違法かどうかの見極めが難しい場合でも１週間以内に削除などの対応を取らなかった場合には、最大で５０００万ユーロ（６２億円）の罰金を科す法案を、４月に閣議決定している。

※参照：メルケル首相との自撮りがフェイクニュースになり、テロリストにされる

また、イギリスでは３月、英タイムズの報道をきっかけに、政府やメディアの広告が、白人至上主義、同性愛蔑視、反ユダヤ、レイプ擁護、といったユーチューブ上の差別的な動画に掲載されていることが発覚。

英政府、企業による広告引き上げ騒動に発展し、さらに、その動きはウォールストリート・ジャーナルの報道もあって米国にも飛び火した。

※参照：グーグルからの広告引き上げ騒動、広がり続けるその背景

●英でも法規制求める議会報告書

法規制の声は英国議会からも上がった。

英下院内務委員会は５月１日、ネット上のヘイトスピーチに関する報告書を公表。その中でソーシャルメディアによる対策の現状を、激しい表現で非難した。

（グーグル、フェイスブック、ユーチューブなどの）最も大規模で収益のあるソーシャルメディア企業は、違法で危険なコンテンツに対処し、適切なコミュニティ・スタンダードを実装、ユーザーの安全を確保するための、十分な手立てを講じていると言うにはほど遠い、恥ずべき状況にある。その膨大な規模、リソース、グローバルな影響力を考えれば、法を順守せず、ユーザーやその他の人々の安全を確保できていないということは、全くの無責任である。

さらに、「表現の自由」は尊重されるべきとしながら、この分野の法規制の見直しをすべきである、と指摘している。

この分野の法的な条文の大半は、大規模なソーシャルメディア利用の時代以前のものであり、いくつかはインターネットの登場以前のものである。政府は、ネット上のヘイトスピーチ、ハラスメント、過激主義に関わる法的な枠組み全体を見直し、法律が現状に合うようにすべきだ。

●フェイスブックが３０００人を追加する

ソーシャルメディアを「恥ずべき」「無責任」と批判した英国議会の報告書が発表された２日後、５月３日に、フェイスブックのマーク・ザッカーバーグは、ヘイトスピーチなどのコンテンツチェックのための要員として、現在いる４５００人に加えて、新たに３０００人を雇用する、と発表した。

フェイスブックをめぐっては、４月半ば、オレゴン州クリーブランドで、３７歳の容疑者（２日後に自殺）が７４歳の男性を射殺する様子を動画に撮り、フェイスブックで公開。２時間以上も削除されたなかったことを巡り、同社の対応に非難が集中。

また同月下旬、タイでは、２１歳の容疑者が赤ん坊の娘を殺害する様子をフェイスブック・ライブで中継し、その後、自殺する、という事件も発生していた。

これらの事件を受けて、ザッカーバーグ氏は自らのフェイスブックページでこう述べた。

この数週間、私たちは、フェイスブック上で自らを傷つけ、さらには他の人々を傷つける姿を目にした。ライブで、あるいは後から動画を投稿する形で。悲痛な出来事であり、コミュニティをよりよくするために、どんなことができるか、検討をした。

そして、３０００人の増員について、こう説明する。

私たちは安全なコミュニティをつくろうとすれば、素早く対応する必要がある。このような動画について、通報をよりやりやすくするよう取り組んでいる。そうすれば、正しい対応を、より素早くできるようになる。助けが必要な人々に対応するにしろ、投稿を削除するにしろ。

●フェイスブックの線引き

では、フェイスブックが何を削除し、何を削除しないのか。

その具体的な線引きについて、フェイスブックはこれまで明らかにしてこなかった。

そして、ピュリツァー賞を受賞したベトナム戦争の報道写真「ナパーム弾の少女」を昨夏に、「裸」が写っていることを理由に一方的に削除。

ノルウェー最大の新聞社や首相までも巻き込む騒動となった。

※参照：フェイスブックがベトナム戦争の報道写真”ナパーム弾の少女”を次々削除…そして批判受け撤回

最近でも、ピュリツァー賞を受賞した調査報道「パナマ文書」の資料を削除するなど、その判断基準には疑問の声が上がっている。

※参照：フェイスブックが「パナマ文書」を削除する

フェイスブックが社内で使う、１００を超す削除基準のマニュアルを英ガーディアンが入手し、特報したのが、５月２１日だった。

ガーディアンが暴露したのは、現在は４５００人いるチェック要員が、日常的に使っているマニュアル、ということになる。

そして、ガーディアンがインタビューした担当者たちは、このガイドラインが矛盾し、奇妙な内容だ、と述べている。

その定義や基準も、かなり複雑だ。「リベンジポルノ」の項目はこんな感じだ。

リベンジポルノとは、ヌード／ほぼヌードの誰かの写真を一般に向け、あるいはそれらを目にすることを望まない人々に対して、恥ずかしい思いをさせ、困らせるために公開すること。
不正利用の判断基準：
親密な画像を以下のいずれかによって悪用しようとする試み：
・以下の３つの条件をすべて満たしていれば”リベンジポルノ”としての画像の共有：
１．プライベートな状況で撮影された画像。かつ
２．画像中の人物がヌード、ほぼヌード、性的にアクティブな状態。かつ
３．同意が得られていないことが以下によって確認できること：
・復讐的な文脈（例．キャプション、コメント、あるいはページタイトル）、あるいは
・独自のソース（例．メディア報道、あるいは捜査機関の記録）

また、「国のトップ」などを対象とした「実現性の高い暴力的発言」は削除対象になる。「誰かがトランプを銃撃する」は削除対象。

ところが、「女（ビッチ）の首を折るなら、のど真ん中にしっかりと力を集中させないと」「消えろ、死ね」は削除対象にはならない。「実現性が高くない」からだ。

法規制と、このガイドラインの間に広がる、問題の闇の深さが伺える。

——–
■新刊『信じてはいけない　民主主義を壊すフェイクニュースの正体』（朝日新書）６月１３日発売。予約受付中。

■デジタルメディア・リテラシーをまとめたダン・ギルモア著の『あなたがメディア　ソーシャル新時代の情報術』（拙訳）全文公開中

※このブログは「ハフィントン・ポスト」にも転載されています。

Twitter:@kaztaira