INASOFT 管理人のひとこと

先日、YouTubeを見ていたら、何人かのユーチューバーさんが次のようなことを言っていました。

特に怖いのは３番目の、明確な基準なしに、理由もわからず動画単位、または、アカウント単位で収益化が停止されてしまうところですね。

不明な基準におびえながら、不当に収益化停止されてしまうことを恐れながら、ユーチューバーさんたちはクリエイティブな動画創作活動をせねばならず、大変なストレスを感じていると思います。

このあたりは、YouTubeの運営プログラムが、一定のアルゴリズムに基づいて自動的に停止してしまうらしいので、「なぜ自分の動画の収益化が停止させられたのか？」と聞いても「ガイドラインをよく読んで自分で判断してください」としか答えてくれないんだとか。

おそらく、何らかの基準を設けるのは人間でも、結局はプログラムが、アルゴリズムが自動判断するので、その判断過程がどうだったかを人間が把握するのは難しいのかもしれません。あるいは、1件1件を判断するのは不可能ではないのかもしれませんが、その問合せが一気に数万件も寄せられたりなどすると、大変だから、一律「人間は判断しない」としているのかもしれません。

まぁ、こういうのを聞くと、2012年に発生した連続誤検知問題のことを思い出してしまいます。これもまた、（人間が誤って準備した）アルゴリズムが自動的に、不正確な判断をしてしまっていた／人間が行って修正の結果を自動的に定期的に（誤って）上書きする仕組みになってしまっていたことがわかっており、似たような問題だと言えます。

なにやら、INASOFTのサイト上に違反があって、違反のあったページ単位で収益化が停止させられているとのこと。

慌てて飛び起きて、調べてみると、次のような警告が出ていました。

kamionovelsは、葦葉製作所のWeb小説を掲載しているページですが、このページについて、2020/4/18時点において「悪質なソフトウェアまたは望ましくないソフトウェア」を載せている、とのこと。

2020/4/18時点のステータスとして、広告表示を停止しているとのことでした。

明らかに誤判断だと思います。

そして、慌てて該当ページを見てみると、普通に広告は表示されておりました。

（ちなみに現時点でも、普通に広告は表示されています。そして警告は消えています）

どうやら、2020年4月18日のある時点では、（誤った）アルゴリズムの自動判断により、小説ページのHTMLに「悪質なソフトウェアまたは望ましくないソフトウェア」が載っていると判断され、広告表示が停止されていたようだが、アルゴリズムに修正が入ったかなんかで、やっぱり「悪質なソフトウェアまたは望ましくないソフトウェアは載っていない」と自動判断され、広告表示が再開したということであると思われます。

というわけで、この警告メールが届いた時点では、すでにGoogle側で誤ったアルゴリズムは撤回されていたということみたいですね。

なんでしたっけ？昔、肌色が多いとポルノ画像と判断するというアルゴリズムを仕込んだら、砂漠の画像が削除された、みたいな話がありましたけど、そんな感じですかね。

ちなみに仮に、誤ったアルゴリズムが撤回されていなくて、Googleに異議申し立てをしようとしても、「Googleの判断が間違っているから見直せ」という申し立てはできなくて、「サイト管理者の側で何らかの対処を行って再審査を要求せよ、再審査はいつになるかわからないが。何もしないで再審査をすると、悪質な管理者としてマークされる」みたいな感じなんだとか。

まるでさっきの、YouTubeの収益化停止の件と同じですね。

さっきは、「不明な基準におびえながら、不当に収益化停止されてしまうことを恐れながら、ユーチューバーさんたちはクリエイティブな動画創作活動をせねばならず、大変なストレスを感じていると思います。」などと、ユーチューバーさんたちを他人事のように見ていましたけど、実は自分自身のこととして見なければならなかったようで。

現在のYouTubeはGoogleが運営していますので、どっちもGoogleが作った自動アルゴリズムの不明さ、というか、それに対して人間が責任を負わない体制のようなものが見えてきているわけですけど、今後、様々なことが自動化されていったとき、ユーチューバーさんたちのようなクリエイターの方々や、自分のようなサイト運営者だけでなく、Googleのサービスを用いて活動するすべての人々……会社員であっても、公務員であっても、学生であっても……が、Googleの誤判断に怯えながら生活をする必要が出てくるかもしれません。

Googleだけとも限りません。

AppleやAmazonやMicrosoftだって、そういう自動判断をプログラムにやらせているでしょう。GAFAのFはなんでしたっけ。まぁいいや。

さっき話に出てきた、ウイルス対策ソフトのメーカーもそうでしょう。

最近は、人々はこういうのを指して「AIの判断だ」みたいに言ってしまうことがあって、「AI」という言葉の示す範囲の曖昧さに辟易するんですけど、まぁ今回はそれに乗っかることにしましょう。

「AIの判断なので異議申し立ては受け付けない、誤っていてもそれに従っとけ」みたいな時代は、未来のSFの話ではなくて、すでに現在進行形の話になっています。

ユーチューバーや、サイト管理者は、すでに、「AIの判断」にビクビクしながら日々を過ごす日常に突入しています。

このブログも、こうやって「AIの悪口」を書いているので、仮に「AI」が善悪を判断できるようになった際には、潰されてしまうんでしょうね。

普通の人が思い浮かべる「AI」というと、ドラえもんとか鉄腕アトムみたいなロボットを想像しそうです。彼らならば、人間の異議申し立てを真摯に検討してくれるんでしょうけど、現在の現実に存在するとされている「AI」は、そんなことしてくれないようです。

結局のところ、「（コンピュータの）上に立つ人間」が、「AIの誤判断」に対してきちんと責任を取り、「AI」をコントロールしてくれる体制がないと、人間に訪れる未来はディストピアです。かつてのトレンドマイクロ社にしても、（残念ながら）現在のGoogleにしても、人間不在の体制が（仕方ないとされる体制が）、ディストピアな社会に人類を向かわせています。

AIが一部の都市の市政までをも担うようになった、新世紀エヴァンゲリオンの「MAGI」システムのように、将来、政治も「AI」が担うようになった場合、何が起きるのでしょう。使徒によるハッキング以前に、バグはないでしょうか。異議申し立ては正しくタイムリーに行われるのでしょうか。

星新一氏のショート・ショートに、政治を担うようになったコンピュータが、ある事件をきっかけに国民の絶対的な信頼を得るようになったが、小さな故障が入り込んだことをきっかけに「人間は四つん這いであるくべきである」という誤判断を下してしまって、人間がそれに盲目的に従う、という話がありましたけど、そんな話を思い出してしまいます。

他者・他社の利益を侵害するかもしれない最終判断を機会にやらせて人間が未チェックでよいのかについては、もうちょっと議論あるいは技術力向上が必要な気がします。