中国に広がる自動顔認識システムとそれを欺くファッション技術

牧野武文

December 4, 2017 08:00
by 牧野武文

青島市のビール祭りで、顔認識技術を利用して指名手配犯などを検挙したというニュースを以前『THE ZERO/ONE』でお伝えした。この顔認識技術による指名手配犯の捜索システムは、すでに全国に広がっていると『中国新聞網』が報じた。

アジアのヴェネツィアに巨大な監視カメラシステム

中国新聞網によると、水郷の街として世界的にも有名な烏鎮(うちん)に、すでにこの「天眼システム」が導入され、成果を挙げているという。天眼システムは、該当の監視カメラをクラウド化して、顔認識を行い、指名手配犯、前科者などを発見するとアラートを発するシステム。公安部が所有している身分証データベースの顔写真と照合をする。認識正答率は、監視カメラの解像度によるところもあり、80%以下だと言われる。アラートが発せられたから即逮捕ではなく、警官が急行し、職務質問を行うという使われ方をしている。


1000年の歴史を持つ「烏鎮」

烏鎮は水郷の街だが、観光地としてに整備されている。街に入るにはテーマパークと同じようにチケットを購入して、入場門を通過する必要がある。こういうゲートを通過するような場所では、顔認識システムが運用しやすい。入場者が一列に並んで、ゆっくりと歩くので、顔を撮影し、認識をする時間的余裕が生まれるからだ。

桐郷公安烏鎮派出所の沈国華指導教官は、中国新聞網の取材に応えた。「烏鎮は、世界インターネット大会の開催地となりました。烏鎮のセキュリティが重要になり、私たちは顔認識による捜索システムを導入したのです」。烏鎮景観区では、今年の8月から各出入り口に天眼システムのカメラを設置、大きな成果を挙げている。

烏鎮では、景観区だけでなく、高速鉄道の駅、バスターミナルにも天眼システムが導入されている。監視カメラは合計500ヵ所以上に設置をされ、導入以来9名の全国指名手配犯を逮捕している。


ネットに出回っている天眼システムと称される映像(真偽のほどは不明)。空港、バスターミナル、地下鉄駅など、人の流動が多い地域に設置されている(微博より)

顔認識システムから逃げる方法

しかし『36クリプトン』『ファイナンシャルタイムズ(中国版)』などの中国メディアが、この天眼システムの問題点を指摘している。それは、顔に特定のパターンを乗せると、顔認識システムが正確な判別ができなくなるという問題だ。

この指摘は、カーネギーメロン大学の研究「Accessorize to Crime: Real and Stealthy Attacks on State-of-the-Art Face Recognition」(PDF)に基づいている。

理論的な背景は原論文を参照していただきたいが、つまり顔認識を騙すことのできるパターンが存在し、そのパターンがペイントされた眼鏡などのアクセサリーを身につけることで、顔認識の網を逃れられるというものだ。

顔認識で参照顔写真と同一人物であるかどうかを判別するといっても、やっていることは2つの画像の差異を計測し、それが小さければ同一人物と判定しているだけだ。ただし、どのような差異を差異として計算するかという点に、深層学習が使われている。例えば、口を開けた形は差異が大きくても無視をするが、唇の形状は差異として計算するという具合だ。

ところが深層学習の弱点をついて、差異だと認識されてしまうパターンが存在する。カーネギーメロン大学の論文には、米国の俳優キーファー・サザーランドの顔写真の例が使われている。3枚の写真は、人間の目にはいずれもキーファー・サザーランドの写真だと認識できるが、顔認証システムでは、パターンを乗せた真ん中の写真、特定パターンを使った眼鏡をかけた右の写真は、差異が大きいと計算され、別人だと判定されてしまうのだ。

もちろん、このような姿で街を歩いていたら、いかにも怪しい。しかし、顔認証の深層学習を騙す効果的なパターンも知られ始めており、うまく工夫すれば、ファッションの一種として受け入れられる可能性もある。


顔認識は、深層学習によって顔画像の差異を計測するため、深層学習の弱点をついた攻撃が可能になる。米国の俳優キーファー・サザーランドの画像を使ったこの例では、差異を大きくしてしまうデジタルパターン、アクセサリーの例が紹介されている(カーネギーメロン大学「Accessorize to Crime: Real and Stealthy Attacks on State-of-the-Art Face Recognition」より引用)


Adam Harveyが提唱する、顔認識システムからのトラッキングを阻止するメイクアップ・ファッションの「CV Dazzle」。Dazzleとは「ダズル迷彩」のことで、これは第1次世界大戦にイギリスで生まれ、艦船に用いられた迷彩塗装。CV Dazzleは髪の毛と簡単なペインティングパターンを使って、顔写真と同一人物だと認識させない。この程度であれば、ファッションのひとつとして認識され、怪しまれずに街を歩けるようになるかもしれない(画像はCV Dazzleより引用)。

未来のお手本になるのか反面教師になるのか

36クリプトン、ファイナンシャルタイムズ中国版は、欠陥があるので天眼システムは意味がないと主張しているのではない。このようなパターンを利用した顔認証ハッキングも考慮しておく必要があると述べている。

日本人の感覚では、この天眼システムは、あまりにもプライバシーを軽んじているものに映るかもしれない。しかし、普通の街頭防犯カメラであれば、かなりの数が普及し、防犯や犯罪捜査に役立っている。いずれ、日本でも、顔認証システムの導入が議論される時代がやってくるかもしれない。その時、中国の天眼システムは大いに参考になるはずだ。

ニュースで学ぶ中国語

 
天眼系統(tianyan xitong):天眼システム。まだ言葉として熟してなく、天網と呼ばれることもあるが、街頭監視カメラをクラウド化した仕組みが「天眼」と呼ばれ始めている。系統はシステムの意味。今、中国では街頭監視カメラのクラウド化、犯罪者データベースとの連携が進んでいる。




狙われる市民の足 米サクラメントの交通機関システムがサイバー犯罪者に攻撃される

December 1, 2017 08:00

by Zeljka Zorz

金銭目的のハッカーがSacramento Regional Transit(SacRT)のシステムに侵入し、ウェブサイトを改ざんし、サーバーの一部からデータを消去した。攻撃を中止し、さらなる被害を生まないことと引き替えに、彼らは金銭を要求している。 攻撃を止めて欲しければ88万円払え サクラメントの…

兵器化するSNS ロシアが仕掛けるサイバー世論操作

November 29, 2017 08:00

by 一田和樹

昨今フェイクニュースが話題になることが増えた。フェイクニュースには単純いたずらやジョーク、金銭目的などさまざまな理由が存在する。その中で特に社会的影響の大きさなどから問題視されているのは世論操作に繋がるものだ。 フェイクニュースとSNS世論操作 世論操作を目的としたフェイクニュースは、単独で利用され…

就活はハッキング!? 伝説になった中国人ハッカーの就職活動

November 27, 2017 08:00

by 牧野武文

中国深圳市のスタートアップShenzhen Arashi Visionの劉靖康CEOは、中国で最も注目を集めている若手経営者の一人だ。彼は、学生時代からやんちゃなハッカーだった。それが1本の電話ハッキングをきっかけに、起業家の道を歩むことになった。そのストーリーを『今日頭条』が報じた。 Shenzh…

サイバー犯罪者に狙われる銀行間通信網「SWIFT」(後編)

November 24, 2017 08:00

by 江添 佳代子

  →前編はこちら SWIFT(スイフト)の顧客の脆弱性を狙った複数のエクスプロイトが発生している。その不都合な事例を示してまで、SWIFTが顧客への注意喚起を行ったとき、金融機関の担当者の一部は「ここまでSWIFTが真剣に訴えているなら、バングラデシュ中銀の不正送金と同じような詐欺は何度か起こるの…