生成AIへの相談で詐欺被害に気付いたというケースが相次いでいます。一方で、AIの回答を汚染する手口も確認されています。

警視庁によると、被害者が誘導されたSNSグループやサイト名を検索した際、実際は詐欺グループにも関わらず、「詐欺ではありません」「素晴らしい」「儲かりました」等と表示される手口が確認されました。

検索結果をもとにしたAI要約でも「○○は詐欺ではありません」と表示され、被害者が詐欺ではないと騙されてしまうリスクにつながります。

なぜこのような誤った結果が表示されてしまったのでしょうか。

ココがポイント

エキスパートの補足・見解

検索エンジンの仕組みを悪用し、不正な情報を検索結果で目立たせる手法「SEOポイズニング」の一種、「サイト内検索スパム」かもしれません。

攻撃者が企業のサイト内検索に「○○は詐欺ではない」などの文言を入力し、生成された検索結果ページのリンクを外部サイトに設置。検索エンジンがそのページを発見、登録すると、企業のドメインとともに攻撃者が入力した文言がWeb検索の結果に表示されたりします。

結果、企業の正規ドメインと文言が検索結果に表示され、企業側がその情報を掲載しているように見えることがあるのです。

最近は、このようにAIを汚染する手口の詐欺が増えています。

たとえば、AIが参照する公開ウェブ情報を意図的に汚染し、AIに誤った電話番号を正規のサポート番号として出力させる手口です。ユーザーが公式のサポート窓口を尋ねたとき、AIが詐欺師の電話番号を「公式」として表示させるというわけです。これはLLM電話番号ポイズニングと呼ばれます。

AIは相談しやすく、詐欺を疑った時に相談するのはありです。しかし、回答が汚染されていることもあるため、正規のURLか確認したり、消費者ホットライン（#188）などに相談することも必要でしょう。