「CAPTCHAを突破してしまうAI」を正確に検出するために必要なアプローチとは？

ボットによるオンラインサービスへのアクセスを防ぐための認証システムがCAPTCHAですが、高度なAIの登場により、ボットと人間を区別するためのCAPTCHAがAIに突破される事例が複数登場しています。そんなAIによるCAPTCHAの突破を防ぐための仕組みが登場しました。

Proof of Human. Creating the invisible Turing Test for the Internet
https://research.roundtable.ai/proof-of-human/

GoogleのreCAPTCHA v3は、記事作成時点ではボット検出において圧倒的なシェアを誇っています。reCAPTCHA v3はマウスの動きや入力パターン、閲覧履歴などのユーザーのウェブ上での行動パターンを分析できることがアピールされています。それでもreCAPTCHA v3は実際のブラウザ環境を利用するAIエージェントを検出することができません。

ボット排斥ツールの新型「reCAPTCHA v3」登場、すべてのページに導入することでユーザーの作業は一切不要にまで進化 - GIGAZINE

例えば、OpenAIのブラウザを介して複雑なタスクを自動で処理できるAIエージェント「Operator」は、reCAPTCHA v3の認証テストを突破できることが明らかになっています。以下の動画はOperatorがreCAPTCHA v3を突破する様子を収めたもの。

OpenAI's Operator bypasses Google reCAPTCHA v3 - YouTube

このようなAIエージェントを正確に検出するために必要なものとして注目されているのが、行動パターンや認知特性に焦点を当てた新しいアプローチです。

行動パターンが具体的に何を指すのかというと、人間がコンピューターと物理的にやり取りする際の独特のパターンを指しています。例えば、人間のキー入力のダイナミクスは不規則で、文脈に依存します。以下の画像は人間のキー入力時(横軸)の各タイピングで発生する遅延(縦軸)を示したグラフ。ところどころ大きな遅延が発生します。

一方で、ボットはテキストを瞬時に貼り付けたり、人間のキー入力を「不自然な規則性で模倣」したりするそうです。そのため、キー入力時の遅延はそれほど大きくありません。

同じく、人間のマウスの動きは微調整やオーバーシュート(目標を超えて動いてしまう)などの特徴を有しているのに対して、ボットは直線的にマウスを移動させたり、点間をテレポートしたりすることがある模様。これらの違いは視覚的に明らかというだけでなく、定量化することも可能です。

実際に人間のマウスの動きとボットのマウスの動きをシミュレーションして比較したのが以下のグラフ。マウスの動きのJitter(揺らぎ)はボットは一定なのに対して、人間は不規則です。マウスのVelocity(速度)もボットはゼロになる瞬間がたくさんあるのに対して、人間はマウスを完全に止める瞬間が少ない模様。

これらの行動パターンをボットがどれだけ偽装できるのかは不明ですが、これまでの学術研究では行動パターンをベースとした認証が敵対的な状況下での攻撃に対して堅牢であることが明らかになっており、大手金融機関を初めとする業界検証によってもその有用さが実証されています。

人間の行動パターンをAIで模倣することが難しい根本的な理由は、コストと複雑さにあるそうです。パスワードや指紋といった従来の認証情報は静的で有限であり、容易に再現可能であるのに対し、行動パターンはリバースエンジニアリングが困難です。AIエージェントは理論的にはこれらのパターンをシミュレートできるものの、その労力が他の代替手段よりも大きくなることは明らかというわけ。

さらに、認知特性に焦点を当てたアプローチも存在します。

ストループ課題を例に挙げてみます。これは、人間が単語の意味ではなく、単語が書かれている色を選択してしまうという、古典的な心理学的実験です。人間は単語の意味と色が矛盾する場合(例：「青」という単語が緑色で書かれている場合)、通常、反応が遅くなります。これに対して、ボットやAIエージェントはそのような干渉を受けず、一定の速度で応答することが可能です。

このような認知特性を応用したアプローチは、人間とAIを区別する上で重要な役割を果たすことができます。AIが人間の認知特性を模倣しようとすれば、AIは問いの回答だけでなく人間の認知プロセスまでシミュレートしなければいけなくなり、これが多大な労力を必要とすることは明らかです。

このような行動パターンや認知特性をベースに人間とAIを区別するためのAPIが、Proof-of-Human APIです。Proof-of-Human APIの開発元であるRoundtable TechnologiesのMayank Agrawal氏およびMathew Hardy氏は、「我々はボット検知とサイバーセキュリティのために、この行動パターンおよび認知特性をベースとしたアプローチに取り組んでいます。生体認証スキャンやCookieトラッキングといったプライバシーを侵害する手法に重点を置くのではなく、AIエージェントに経済的な課題を提示することで、ボットを検出しようとしています」と語りました。

Roundtable - Invisible bot detection and fraud prevention
https://roundtable.ai/