欧州連合（EU）が21日、主要国で初めてとなる人工知能（AI）の利用に関する規制案を公表した。「監視社会」につながる懸念から世界で議論になっている、公共空間で顔認証システムを使った警察捜査を原則禁止とした。市民の権利侵害を防ぎ、企業が安心してAIを使えるルールづくりで世界に先んじることで、投資を呼び込む狙いがある。

　EU行政府の欧州委員会は、規制案のなかでAI利用がもたらすリスクを4段階に分類。最も危険な「禁止すべきリスク」として、公の場で警察などの公権力がリアルタイムで顔認証などの生体認証技術を使って捜査することや、政府による個人の信用格付けなどを挙げた。

　2番目に危険な「高リスク」分類では、企業の採用面接や教育現場での試験の採点、国境管理などを例示し、利用時には事前に審査が必要だとした。禁止項目に違反した場合、最大で3千万ユーロ（約40億円）か、世界売上高の6%のどちらか高い方を罰金として科す規定も設ける。

　規制案のねらいは、市民の基本的権利を守り、AIを安心して使える環境を整えることだ。特に歯止めが必要としたのが、顔認証技術を用いた警察捜査だ。

　顔認証技術は、カメラがとらえる多数の人の顔画像をAIが分析する。事前に用意した顔画像と特徴を突き合わせることで、特定の人物を洗い出せるため、世界の警察が凶悪犯の捜査などへの活用を期待する。だが、欧州委は公共の場での利用は、行方不明の子どもの捜索や差し迫ったテロの脅威を防ぐためなど、限定されるべきだとした。

　顔認証技術が防犯カメラなどに搭載されれば、公共空間で知らない間に顔がスキャンされ、プライバシーが侵害される恐れがある。「監視社会につながる」との懸念がある。

　AIによる「誤認識」が、人種によって起こりやすいとの指摘もある。白人警官による黒人被疑者への差別が問題となっている米国では昨年、IBMやアマゾン、マイクロソフトなどIT大手が相次いで、警察への顔認証技術の提供を停止するなどした。IBM首脳は米議会に、法整備の必要性を迫っていた。

　顔認証は中国で広く利用され、人権団体などが監視社会の行き過ぎを批判している。個人情報を元にAIが人々を格付けする「信用スコア」も普及しており、EUが禁止する政府による応用にも中国は野心的だ。

　ベステアー上級副委員長は声明で「AIの信頼確立にむけ、EUは新たな世界の規範づくりを主導する」と述べた。今後、欧州議会で審議され、成立まで数年かかる見通しだ。（ロンドン=和気真也）