ＡＩとアテンション・エコノミーを考える
完了しました
［インタビュー］水谷瑛嗣郎・関西大学社会学部准教授
■近代憲法の「個人の尊厳」の前提と考えられてきた「強い個人」と異なる人間の脆弱性が、ＡＩ（人工知能）の発展により悪用される懸念が強まっている。
■報道機関が守ってきた国民の「知る権利」は、個人が必要な情報を積極的に採り入れることができる「知る自由」と組み合わせられる必要がある。
■ＳＮＳ上では両極端の声が目立ち、中間にあるサイレント・マジョリティーが不可視化される。政治意識が高い人と低い人との間で、分極化が強まる危険性がある。
■コンテンツ（内容）のモニター、管理は、利益を優先せざるを得ない民間企業だけで行うのは限界がある。国際標準化も含め、政府の役割が求められる。
ＡＩで再考迫られる「個人の尊厳」
―過激な見出しなどで注意を引きつけ、広告収入を最大化しようとするアテンション・エコノミーの弊害が指摘されています。憲法は「個人の尊重」を１３条で定め、「個人の尊厳」は、さまざまな人権を支える中核的価値にあたる重要な考え方と言われます。ところが、個人の尊厳の基盤が、ＡＩ（人工知能）の発展とともに
近代憲法が個人の尊厳と自律の前提としていたのが、「強い個人」という見方でした。尊厳ある個人が自ら様々な情報を収集して自己決定を適切に行うことで、最終的にその個人は幸福になる、という考え方です。憲法１３条が「幸福『追求権』」と言われるのもそのためです。必要な情報を基に個人が理性的に判断すれば幸福を追求できるだろう、だからそのために色々な自由を担保しておけばよいのだ―と。しかし実際は、人間はヴァルナラブル（
社会心理学の二重過程理論によれば、人間の思考は、直観的・自動的な「システム１」モードと、これを補完し、熟慮する「システム２」モードの二つに分けて説明できます。システム１が、デジタル空間でうまく利用されてしまった。いや、悪用されたと言うべきかもしれません。たとえば「無料体験」と言われて登録すると、いつの間にか課金されるようなダークパターンなどがそれに当たります。
人間の脆弱性とＡＩの関係性に対しては悲観論、楽観論双方の見方があります。
悲観論は、人間は簡単に進化できる生物ではなく、脆弱性は簡単には解消されないというものです。にもかかわらず、人間を取り巻く環境の方はお構いなしに発展していってしまい、ＡＩを介して人間の脆弱性をどんどん悪用されてしまう。
楽観論は次のようなものです。たとえば、科学的な証拠のない陰謀論を信じ込んでしまった人は、もはや二度と
私は、このプラスの方を、うまく発展させることが重要だと考えています。学生によく言うのですが、スマートフォンはもはや体の一部のようになっており、脳の記憶力を拡張するデバイスとして人間をサポートしている部分がある。今はグーグル検索が多いですが、将来は、グーグルでも生成ＡＩを使った「ジェミニ」で検索していくことになるでしょう。
ただ、ここまで話すと、無視できぬ大きな問題もあることに気づきます。ＡＩをはじめとするアーキテクチャー（基本構造）をデザイン（設計）しているのは誰なのか、ということです。
設計者には、何らかの意図がある。企業である以上ベースはあくまで経済的な利潤追求です。典型が、TikTokなどのＳＮＳがユーザーの好みや行動に合わせて推奨する「レコメンド」という機能であり、レコメンドの基になっているのは利潤追求にほかなりません。それが人間の脆弱性との関係で問題をはらむのです。果たして人間が、知るべきものをきちんと得られるのか、ということです。
「知る権利」「知る自由」ともに必要
―憲法21条が定める表現の自由は、一般に、表現の受け手側の「知る権利」も保障するものと解釈されていて、それゆえメディアの報道の自由が保障されるとされてきました。この重要性は今後も変わらないとしても、ＡＩの発展とともに従来型の「知る権利」を保障するだけでは不十分ではないか、という見方も出ています。
私は、知る権利には内容面で２種類あると考えています。
一つは、１９６９年に最高裁判決が出た博多駅テレビフィルム提出命令事件で認められた権利です。判決では「報道機関の報道は、……国民の『知る権利』に奉仕する」とされ、日本新聞協会の新聞倫理綱領でも、新聞は「国民の知る権利」を保障するための担い手であるとされています。民主主義社会に必要な情報を届ける、特に権力に対するある種の監視という役割を担うプロフェッショナルな報道機関によって保障されるのが、国民の知る権利なのです。
もう一つは、自分の知りたいことを知る自由という側面です。これには知りたくないものを知らずにおく自由も含まれます。しかし、こちらの自由も好きな情報に触れる機会があればよいかと言えば、そうではありません。裁判の傍聴人にメモを取る自由を認めた89年のレペタ訴訟判決や、未決勾留者に渡す新聞の一部を黒塗りにしたことの合憲性が争われた83年のよど号ハイジャック記事抹消事件判決などでも示された考え方で、最高裁は、自由にさまざまな情報を摂取する機会が、憲法上の「自己実現」や民主主義にとって重要だと言っています。前者の「知る権利」に対し、「知る自由」は、自分が知りたいものを積極的に採り入れていくための多様な情報に触れる機会（環境）を確保することで真に保障されるものなのです。知る権利も、知る自由とバランス良く
知る自由の保障に対しては、報道機関よりもむしろ、ソーシャルメディアや検索エンジン、そして今後発展してくる生成ＡＩがカギを握っています。
そこでソーシャルメディアは、知りたいことを先回りして教えようとする。先ほどのレコメンドのアルゴリズムが、まさに該当します。それにはメリットもあります。つまり、我々の周りに流通している情報の量は無限に近いですが、人間の時間は有限なので、必要な情報に効率よくアクセスするためには、何らかのフィルタリングが必要です。ソーシャルメディアは、その機能を果たしているともいえる。
ところが大きな問題もあります。フィルタリングする指標を設計しているのは、プラットフォーム企業にほかなりません。指標は、ビジネス上の都合に合わせて作られざるを得ません。そこで、自らのサイトに長時間滞在させたり、繰り返しそのサイトを訪れさせようとしたりする。このことを「粘着性」の問題といいます。その結果、人間を注意散漫にするなどの問題が生じます。
最近、学生から「TikTokを見ていると、時間が『
政治的な分極化をどう防ぐ
―ＳＮＳでは、ユーザーが見たい情報ばかりに囲まれ、正しい情報でも欲していなければ接しづらくなる「フィルターバブル」や、自分に似た意見が薦められる結果考えが近い人とばかりつながっていく「エコーチェンバー」といった現象が起きやすいという問題が指摘されます。
一つの問題点は、政治的な分極化が進みかねないことです。フィルターバブルの問題を最初に指摘したのは、米インターネット評論家のイーライ・パリサーでした。エコーチェンバーについては、米ハーバード大の憲法学者・キャス・サンスティーン氏が問題視していますよね。ただ最近は、思ったほど分極化に影響を与えていないという研究もあるので注意が必要です。つまり、当初予測されたほど強い効果は発揮していないのではないか、という見方も出ています。ただこれは、あくまで短期的な効果に関する研究であり、長期的に人間に及ぼす影響まで考えれば、別のリスクが懸念されていて、継続的なモニタリングが不可欠と思っています。
アテンション・エコノミーが消費者心理に付け込み、依存性を強めて時間をどんどん費やさせるようになると同時に、人々が公共的な情報、質の高い情報に触れにくくなる問題があります。ネット上の広告収益のベースになるのは、ページビューや滞在時間、クリックスルー率といった数値です。オンラインのエンゲージメント指標といいますが、指標を向上させるには、情報の公共性や中身はどうでもいい。むしろ反射的にでもクリックしてもらうことの方が大事で、そのためには刺激を与え、依存性を強めることが有効です。質の高い情報よりも、センセーショナルな、さらにはニセの情報が力を持ちやすい状態になってきているわけです。
このことは、我々の民主主義にとって極めて困難な問題を突きつけています。さきほど分極化という話が出ましたが、今さらに考えなければならないのは「右か左か」でなく、政治意識が高いか低いかの間で生じる「分断」です。高い人ならば、ニュースへの接触の仕方において、フィルターバブルを乗り越えてでも多様なものを取りに行こうとする。ところが低い人たちは、無意識のうちに自分の好きな世界、フィルターバブルに囲まれてしまい、自力では外に出られなくなってしまう。民主主義の前提条件は、みなが共同体の一員として平等に政治のことを考えることです。ところが、こうした分断が生じると、民主主義の根本が崩れてしまうのです。
ネット上の世論は、本当の世論とは異なります。経済学者の山口真一・国際大准教授が指摘されていますが、ＳＮＳでは、少数のヘビー・ライターたちが大量に党派的な両極端のコメントを掲載する。その間にはサイレント・マジョリティーの人たちがいます。目立つのはヘビー・ライターたちの主張で、彼らはマイノリティーでしかないのに、政治は彼らに引っ張られる。政治への関心の有無に基づく分断をどう埋めていくのかが重要になってきているのです。
最近の学生は賢いですから、ＳＮＳに変なことを書き込むと就活などで不利になりかねないと考え、控えています。そうするとますます、ＳＮＳ上にあふれかえる言説は極端なものばかりになる。極端な主張ばかりが
私は、既存メディアが担ってきた、民主主義に必要な情報を提供するというジャーナリズムの仕組みを担保することが重要と思っています。既存メディアには、たとえば放送局であれば放送法の政治的公平原則ですとか、選挙運動に対する報道の規制があります。そうしたなか、先の東京都知事選挙、衆院選、兵庫県知事選挙では有権者がＳＮＳを見るようになり、選挙結果に影響を与える現象が起きた。放送局が公平性の観点から報道できないことがあるとすれば、今後のあり方について、正面から議論しなければならない時期に入ってきていると感じます。この点は活字メディアも一緒です。最近はテレビ局もニュースの中身をテキストに文字起こししてネットに流していますし、活字メディアもビジュアル化に力を入れている。米紙ニューヨーク・タイムズなどは特に顕著です。映像メディアと組み合わせながら役割を果たしていくことが重要です。
コンテンツの監視・管理が課題に
―コンテンツ（内容）をモニター、管理する「コンテンツ・モデレーション」の重要性が指摘されていますが、確立されたものがまだありません。フェイクニュースは国境を越えて流れており、国際標準的なＡＩ規制も検討課題です。
コンテンツの管理には、２種類あります。一つがアファーマティブ（積極的）な管理で、プラットフォーム企業などによるレコメンドやトレンドの表示が含まれます。情報を優先順位付けして目立つ位置に出すなどします。
もう一つがネガティブ（消極的）な管理で、違法・有害情報を消したり見えなくしたりする措置を取ることです。最近、私が注目しているのが、こちらです。
国際標準が必要という議論はその通りです。プラットフォームに対して有効で民主的なガバナンスを持つコンテンツ・モデレーションが存在しないのは、大きな課題です。プラットフォーム企業にもコーポレート・ガバナンスはあります。株主への説明責任がありますし、最も怖い存在は広告主です。特にブランド価値を気にかける大手の広告主は、米Ｐ＆Ｇ社など、かなり厳しい注文をつけることもあります。世界広告主連盟（ＷＦＡ）が、デジタルの問題に対処するため「責任あるメディアのための世界同盟」（ＧＡＲＭ）を立ち上げたことがあり、コンテンツ・モデレーションの標準規格を作ろうという議論も出たことがあります。独占禁止法違反ではないかといった問題も出て、今は停止していますが、こうしたイニシアチブは実は重要です。
もっとも、民間の自主的なガバナンスについては安定性の問題が残ります。プラットフォーム企業も、右肩上がりの経済成長をしている間は余裕があり、自らコンテンツ・モデレーションの担当部署を維持します。だがひとたび経営不振になると廃止されかねない。コストがかかるし一番削りやすい部門だからです。
実際、米メタ社も米アルファベット社も米Ｘ（旧ツイッター）社も、かなり人員整理を進めていますよね。やりたくてもお金がないのでできない事態が起きる懸念はある。経済合理性の観点からは仕方ないのでしょう。ですが、社会の公共性からは合理的とはいえない。経営が傾いたらフェイクニュースやヘイトスピーチが
問われる政府の役割
ミニマムなガバナンスのラインを標準設定することは、やはり政府にしか出来ません。それも、国際的な共同歩調が求められます。
その際、コンテンツ・モデレーションのあり方は、矛盾するようですが、国ごとに異なる文化や事情にも配慮する必要があります。ローカライゼーションといわれる問題です。たとえばヘイトスピーチ一つとっても米国と欧州で対応は異なります。憲法上の表現の自由がかなり重視される米国に対し、欧州では違法化する国が多く、ドイツでは刑法に民衆扇動罪が置かれるなどしている。日本の例でいえば、部落差別に相当して許されない言説があることなど、国際社会では知らない人も多いため、きちんと理解してもらう必要があるでしょう。
24年の通常国会では「情報流通プラットフォーム対処法」が成立し、情報削除の判断を行う侵害情報調査専門員の規定が設けられましたが、今後はこうした専門家の役割が大きくなると思います。弁護士などが想定されますが、法律だけでなく、ヘイトスピーチが出てくる文脈などにも十分理解ある人材が求められます。
最近、ＡＩスタートアップのアンソロピック社が、生成ＡＩの「クロード」に、たとえば世界人権宣言などの原則を使って訓練することをやろうとしています。米マサチューセッツ工科大学（ＭＩＴ）も、テクノロジーのデザインにあたって公益を考える人材「パブリックインタレスト・テクノロジスト」を育てようと言うなどしています。
様々な技術的可能性が出てきていますが、結局のところ、経済合理性を離れてまで公共の福祉を追求できるのは、企業でなく、民主的正統性を持つ政府です。国家権力は監視される必要もありますが、同時に公共の福祉を担う重要な役割を有してもいる。ＡＩ技術が進展する中で、やはり国家法、国家の制度設計をあらためて考える必要性が高まっていると感じます。
水谷瑛嗣郎氏
みずたに・えいじろう
1986年生まれ。慶大大学院法学研究科後期博士課程単位取得退学、博士（法学）。専門は憲法、メディア法、情報法。帝京大助教を経て2019年より現職。総務省「誹謗中傷等の違法・有害情報対策ワーキンググループ」メンバー、国会図書館非常勤調査員などを務める。
