トレンドマイクロとヤフーの失敗から考える、アルゴリズム依存の功罪

　複雑な事務処理を自動化し、ときに人間の代わりに意思決定を下してくれる情報システムのアルゴリズム。検索エンジンから電車の運行管理まで、今やアルゴリズムのお世話にならない日はない。

　だが、そのアルゴリズムがときに思わぬ暴走を起こし、個人や社会に不利益を与えることがある。そんな二つの事例を紹介したい。

フリーソフトを1年半にわたりウイルス判定

　一つは、あるPC向けフリーソフトが、トレンドマイクロのウイルス判定アルゴリズムから1年半にわたって危険なウイルスソフトとの「誤判定」を受けたものだ。

　事の発端は2012年4月。「いじくるつくーる」「すっきり!! デフラグ」などのフリーソフトを個人で開発・公開していたINASOFT 矢吹拓也氏のメールアドレス宛てに、「ソフトをダウンロードしようとしたら、ダウンロード用URLがトレンドマイクロのセキュリティソフトにブロックされた」とのメールが立て続けに届いた。翌月には「Vector」や「窓の杜」など、矢吹氏のソフトを掲載する大手ダウンロードサイトからも同じ連絡があった。

　矢吹氏は、トレンドマイクロにこの現象を報告。ブロックの証拠であるスクリーンショットも提示した結果、同社の担当者は誤判定の事実を認めた。一時的措置として、特定のURLについて判定を解除する「ホワイトリスト的な措置」（トレンドマイクロ）を取ったという。

　だが、その後も誤判定は頻発した。矢吹氏のソフトを掲載していた他のミラーサイトや転載サイトでも、時間を置いて誤判定が発生したのだ。そのたびに矢吹氏は、URLを申告してトレンドマイクロに解除を依頼する羽目になった。申告済みのURLが、再度誤判定を受けることもあった。

　「トレンドマイクロ担当者からの的を得ない返答、ユーザーからの抗議に加え、契約プロバイダから『ウイルスソフトをサーバー置くのはやめてほしい』などと言われ、精神的にも疲弊していった」。矢吹氏は、当時の状況についてこう語る。なぜ、趣味のプログラミングでこんな苦痛を味わうことになるのか。矢吹氏は悩んだ末に2012年10月、「蓄積した疲労と、趣味に対する疑問」から開発活動を休止すると発表した。