人工知能はわたしたちを“監視”し、判断している

AIが政治的および社会的な管理ツールとしても利用されるようになっている。中国の都市ではありとあらゆる場所に監視カメラが設置されており、少数民族を監視している。米国では犯罪を犯した者の再犯率を予測するのはアルゴリズムだ。

surveillance

RICHARD BAKER/IN PICTURES/GETTY IMAGES IMAGES

わたしたちは人工知能AI)に監視されている。AIは秘密裏に情報収集を行う場合に強力なパワーを発揮する。そしていまや、独裁政権だけでなく民主主義国家でも、この技術が政治的および社会的な管理ツールとして利用されるようになってきた。

アプリやウェブサイトを通じて収集されたデータが、広告やソーシャルメディアのフィードの最適化に使われていることは周知の事実である。だが、同じデータから個人を特定できる情報を引き出したり、その政治的傾向を分析して当局に知らせたりすることもできる。スマートフォンやスマートカメラ、AIの進化のおかげで、一連の技術はさらに洗練されてきているのだ。

スタンフォード大学のチームは2017年、写真に写っている人物がゲイかどうかを判定すると謳うアルゴリズムを開発した。精度はさておき、このようなツールは迫害や人権抑圧につながる恐れがある。

「この種のテクノロジーを街中に張り巡らされた監視カメラ網と組み合わせて、同性愛が犯罪とみなされるサウジアラビアのような国にもっていくと仮定しましょう」と、デジタル社会学者のリサ・タリア・モレッティは言う。「通りを歩いていたら、いきなり拘束されるといった事態が起こりえます。その理由は、コンピューターがあなたは同性愛者だと言ったからなのです」

監視能力を高める中国

顔認証とAI監視技術に最も力を入れている国は中国だ。激しい競争に加えて、他国と比べて個人データへのアクセス規制がゆるいため、AI産業は急成長している。このため中国政府による情報管理や言論統制は、どんどん強化されている。

一部の都市では、顔認識システムを利用して監視カメラの映像から犯罪者を見つけるといったことが実際に行われているほか、軽微な犯罪を犯すと懲罰措置として個人情報が一般に公開される。

さらに問題なのは、新疆ウイグル自治区でのイスラム教徒の弾圧にこの技術が使われている点だ。同時に、共産党政府が進める「一帯一路」政策の下、パキスタン、カンボジア、ラオスといった国にAI監視システムが輸出されている。これは、ひいてはテクノロジーによる弾圧につながるだろう。

政治学者でコンサルティング会社ユーラシアグループの創設者でもあるイアン・ブレマーは、中国政府がもつ監視能力は誇張して報じられているかもしれないが、同国のAIブームは個人の自由に恐ろしい影響を与えていると指摘する。「政府はまず技術を確立し、それを使うことが可能であると世間に知らしめます。そして見せしめに何人かを逮捕してみせればいいのです。そうすれば、あっという間に国民全員が恐怖を感じるようになるでしょう」

欧米でも活用が進む

自分には縁のない遠い国の話だと思うかもしれない。だが、欧米でも同様のツールが開発され、利用されている。グレン・ロドリゲスに聞いてみればいい。受刑者だったロドリゲスは、仮釈放を申請した際、アルゴリズムによる審査に直面するはめになったのだ。

「COMPAS」と呼ばれるこのシステムは、犯罪者の再犯率を予測するために開発されたものである。ロドリゲスは10年間も模範囚だったが、バイアスのかかったCOMPASは、再犯の可能性があるため仮釈放すべきではないとの結論を出した。

人間で構成される仮釈放委員会は、コンピュータープログラムの判断には反対で、ロドリゲスの申請は最終的には受け入れられた。しかし、COMPASが推奨した夜間外出禁止という条件が付けられている。ロドリゲスは「いまでもCOMPASの悪夢を見ますよ」と語る。

米国の警察当局もAIを採用している。ニューヨーク市警察(NYPD)は現在、顔認識を含むシステムを試験運用している。AI導入の目的は業務の効率化と説明責任を果たすためということになっているが、人々が当局によるAIの利用を受け入れれば、欧米諸国もテクノロジーによる専制に向かって歩き出すことになるのだ。

RELATED

SHARE

共同創業者が去ったグーグルには、いまこそ会社を“リセット”するときが訪れている

グーグルの共同創業者であるラリー・ペイジとセルゲイ・ブリンの退任が、大きな波紋を呼んでいる。持株会社としてのアルファベットの傘下に事業会社を擁する構造には、ペイジをグーグルの事業運営の雑事から解放すると同時に、ウォール街とより友好的な関係を築くことに大きな意味があった。その結果は、最終的に各部門の価値がより高まったと考えるか、それとも価値の低い寄せ集めの企業が生まれたと考えるかによって変わってくる──。『WIRED』US版のエディター・アット・ラージ(編集主幹)、スティーヴン・レヴィによる考察。

TEXT BY STEVEN LEVY

WIRED(US)

Google

RALPH ORLOWSKI/GETTY IMAGES

当時のグーグルの最高経営責任者(CEO)だったラリー・ペイジは2015年8月10日、同社を再編して持株会社のアルファベットを共同創業したと発表してビジネス界に衝撃を与えた。ペイジはアルファベットの代表に就任し、グーグルはアルファベット傘下の複数の企業のひとつとなったのだ。

そしてグーグルXやグーグル・ファイバー、グーグル・ヴェンチャーズ、ネストといった子会社のCEOが彼にレポートする構造になった。これはグーグルという企業を、「よりクリーンで責任あるもの」にするための取り組みだった。

そしていま、完全なかたちではないにせよ、共同創業者であるペイジとセルゲイ・ブリンがグーグルを去ることになった。ペイジとブリンは3日に共同声明を発表し、引き続き取締役会にとどまり助言などを行っていくものの、「日々の責任」を負う立場からは退くことになると述べている。

とはいえ、アルファベットという企業の構造自体が、すでに彼らを多くの責任から開放し、会社の面倒なことに巻き込まれることなく壮大で斬新なアイデアを追求できる立場にしていた。それを考えると、この声明は興味深いと言える。

なぜなら、ブリンはアルファベットの長期的研究を担う部門である「X」に没頭していた。ペイジも自らの情熱を追求し、表舞台からは姿を消していたので、「より責任ある」という言葉を体現していたとは言えないだろう。彼は取材を受けなくなり、決算発表への参加もやめ、前回の株主総会にさえ出席しなかった。

グーグルの現CEOであるスンダー・ピチャイは、取締役会から監督されながらアルファベットのCEOを兼任することになった。彼が引き継ぐことになったこの巨大企業は、共同創業者たちの野心と熱意によって誕生したものである。検索、動画、そして人工知能(AI)の分野における世界で最も重要な企業としては、必ずしも理にかなっているとは言えない存在だ。だからこそ、このタイミングで、アルファベットの創業がどのような影響をもたらしたのか評価すべきではないだろうか。

アルファベットという企業のふたつの意義

アルファベットという企業をかたちづくっていたのは、ふたつの要素だったと思われる。ひとつは、ペイジをグーグルの事業運営の雑事から解放することだった。

かつてわたしは、彼がアルファベットを立ち上げたのは二度と取材を受けなくていいようにするためではないかと、冗談半分で言っていた。しかしいまとなっては、その冗談も半分ではなく3割くらいになったと言えるだろう(最後にペイジに取材したのは2013年だったが、不思議なことに取材を受けているときの彼は魅力的で、イノヴェイションに執着する自らの考えを率直に語ってくれていた)。

ふたつ目の要素は、ウォール街とより友好的な関係を築くことだ。その中心的な存在として名前が挙がることが多いのは、アルファベットのCFOとしてその抜け目のなさを発揮してきたルース・ポラットだ。

大きな資本を必要とするヘルスケア部門のヴェリリーや、新たなスピンオフであるルーンといったまだ利益が出ていない部門を「Other Bets(その他のプロジェクト)」としてグーグルから切り離すことで、銀行家やアナリストに対する財務報告の印象はよくなった。また、各部門の業績の責任をそれぞれのCEOが負うことで、各部門の利益追求への意欲はより高まったのかもしれない。

再編から生まれた価値の意味

ある意味で、これは素晴らしい結果を生んだと言えるだろう。アルファベットの株価は飛躍的に上昇し、同社への移行発表から約2倍に跳ね上がった。

アルファベットが誕生していなかった場合、グーグルはよりよい業績を上げることができていただろうか? その答えは、アルファベットによって各部門の価値がより高まったと考えるか、それとも各部門を総合したときよりも価値の低い寄せ集めの企業が生まれたと考えるかによって変わってくる。

元々のグーグルの構造においては、各ヴェンチャーは“母艦”となるグーグルを支える存在だった。アルファベットに移行してからは、将来的にそれぞれの企業をビッグビジネスにすることに焦点が当てられるようになった。これはガイコやネットジェッツ、シーズキャンディーズといった企業が子会社としてうまく共存しているバークシャー・ハサウェイ型の構造だ。しかしウォーレン・バフェットには、育てるべきフラグシップが存在しない。

ヴェンチャーキャピタル企業のグーグル・ヴェンチャーズを考えてみよう。同社は当初、グーグルの事業強化に貢献できる可能性のある企業に焦点を絞って投資を行っていた。だが、グーグル・ヴェンチャーズを独立企業として運営する場合、自社の利益としてはあまり期待できないがユーザーにとってのグーグルの価値をより高めるという方向性ではなく、より自社の利益を優先するという方向にインセンティヴがシフトしていくのは自然なことだ。

グーグル・ヴェンチャーズはUberのような数億ドル規模の大当たりを生み出してきたではないか、という反論もあるかもしれない。しかし、四半期ごとに数十億ドルの収益を上げるグーグルに比べれば、それほど大きなものとは言えないだろう。優れたヴェンチャーキャピタルを立ち上げるのはよいことだが、成熟した検索事業をさらに成長させる投資部門のほうがもっとよいのではないだろうか。

事業再編から生まれた軋轢

アルファベットによって“被害”を受けたと断言できるのは、かつてグーグル・ファイバーと呼ばれていたプロジェクトだ。2010年に誕生した同プロジェクトのミッションは、利益に固執することなく高速インターネット回線を普及させることだった。

理論的には、より多くの人々が高速回線を利用できるようになることで、GoogleやYouTubeの利用者も増えるはずだ、という狙いがあった。しかしアルファベットが誕生し、グーグル・ファイバーは「アルファベット・アクセス」と呼ばれる部門へと移行した。結果的に厳しい損益の問題に直面したアルファベット・アクセスは当初の計画を縮小し、何度もCEOの交代が行われた。

ひとつの部門をアルファベットの子会社化(あるいは企業を買収しながらも統合を行わない)した場合、解決した問題以上に多くの問題が生まれるケースもあった。例えば、2014年1月に32億ドルで買収したネストの場合、いわゆるスマートホームを中心にハードウェア事業を強化したいという狙いがグーグルにはあった。しかし、アルファベットへの移行後は、同社の独立を保つことでグループ内での競争が発生し、グーグル内のハードウェア部門と事業が重複したり対立したりといった結果を生むこともあった。

これは重複や対立によって緊張関係が生まれた、ほんの一例にすぎない。巨大な野望を抱くグーグルは、ほかの部門で何が起きているのかをコントロールしなかったため、アルファベットの他の部門と事業が重複することがときに発生してきた。

ネストに関しては、グーグルが同社を吸収することで問題は解決した。だが別のケースでは、重複は続いている。アルファベットはXに世界最高峰の研究部門を有しているが、現在はグーグルも独自の大規模な研究事業を展開している。ロンドンを拠点とするアルファベット傘下のディープマインドを見れば予想がつくかもしれないが、グーグルは人工知能に関して比類なきリソースを有している。

アルファベットという実験の価値

では、各プロジェクトのCEOに責任を負わせるようになったことで、財務的にはどのような影響があったのだろうか。

まず念頭に置いておかねばならないのは、プロジェクトのなかには誕生したばかりで、将来的に数十億ドル規模の事業に発展する可能性を秘めているものもあるということだ。ところが直近の四半期決算を見てみると、アルファベットの創業から4年がたった現在でも、その他プロジェクトの合計収益はアルファベットの収益の0.5パーセントにも満たない。

アルファベットの収益の99パーセント以上を占める両部門に加え、それ以外のプロジェクトに関してもピチャイがすべての責任を負う立場となったいま、彼は全体を見渡してアルファベットという実験に価値があったのかを見定めることができるようになった。

プロジェクトのなかには失敗し、ペイジの言葉を借りればグーグルのミッションから「かけ離れてしまった」ものもある。ピチャイとしては、なぜペイジがそうしたプロジェクトを気にかけ続け、上場後にしっかり分け前を与えると約束しながら潤沢なヴェンチャー資金を与えてスピンオフしてしまわなかったのかと疑問に思うかもしれない。その間、グーグルとYouTubeは内外に大きな問題を抱えていたからだ。

バラバラのアルファベットをリセットできるのか

仮にピチャイがアルファベットは失敗だったという結論を下しても、彼に大きな変革を実行する自由が与えられているとは限らない。彼は多くの惰性を乗り越えなければならないだろう。

関係者は、一部の部門が独自の文化を生み出すなかで「非グーグル的」になっていると指摘しており、これを「大陸移動説」にたとえている。グーグル自体も政治的な抗議や「#MeToo」問題といった企業内での問題を抱えており、各プロジェクトもそうした問題について慎重になっている可能性はあるだろう。

そして、ブリンとペイジはアルファベットの議決権の過半数を維持している。退任にあたっての共同声明からすると、彼らは現在の組織構造に満足しているため、何らかの変化が起きることはないだろう。

最終的には、ペイジとブリン、そしてピチャイがどのような企業としてのあり方を求めているかが、すべてだ。グーグル/アルファベットがばらばらのパーツを寄せ集めた持株会社なのか、それとも企業の強みを強化し、そのミッションに貢献できる有効な衛星に囲まれた強力な事業体なのか、問い直すことができるのは彼らだけなのだ。

今回の退任劇は、ラリーとセルゲイが残していったバラバラのアルファベットをリセットして、正しく並べ直すべきかどうかを考えるうえで最適のタイミングなのかもしれない。

※『WIRED』によるグーグルの関連記事はこちら

RELATED

SHARE