5月21日、女優のスカーレット・ヨハンソン氏は、OpenAIが自分の声を忠実に模倣したAI音声を使用していることに言及した声明を発表した。同氏は昨年9月に、主に最新のGPT-4oの顧客によって使用されるシステム用に声を提供してほしいという、OpenAIからのオファーを断っている。

この声明においてヨハンソン氏は、同社によるGPT-4oモデルの最新のデモにおいて、声が非常に似ていることにショックを受けたと述べている。その直後にOpenAIは、「スカイ（Sky）」と呼ばれているその音声の使用を中断することを発表した。同社はこの音声が別のプロの女優によるものだと述べているが、それが誰なのかは明かしていない。

ファッション業界では、AI音声の誤った使用が大きな問題になったことはないが、TikTokやインスタグラムのクリエイターのあいだではすでに問題となっている。この問題はボットの活動とともに、ここ数カ月で大きくなった。ソーシャルメディアのボットは投稿、「いいね！」、フォローなどの動作を自動的に行い、マーケティングや世論の操作に使用可能だ。

Advertisement

ボット、AI音声の影響

たとえば、TikTokの動画やコメント欄でシーイン（Shein）をプロモートしているものは、ボットやAI音声が普及しつつあることを示している。この6カ月にわたり、TikTokでシーインが否定的に言及されるたびに、ボットアカウントが大量の肯定的なメッセージを溢れさせ、すぐに賛成票が投じられ、ブランドの人気や顧客の満足度について誤解を招くような雰囲気を醸成した。

シーインは、この記事に間に合うコメントを返していない。

規制がなければ、このような方法によってシーインに対する公衆の認識を好意的な評価へと操作し、商品をプロモートすることが可能だ。

これらのボットアカウントは、プロフィールをクリックすると多くの場合にプロフィールは空白で、ユーザー名も疑わしいものだ。たいていの場合、アカウントは新しいもので、存在しないまたは詐欺のインスタグラムのプロフィールにリンクされている。

また、これらのアカウントは肯定的な投稿でもシーインをプロモートしている。たとえばTikTokで昨年、買い物客に対してこの夏のアパレルをシーインで買い求めるよう勧めている動画がバイラル化し、シーインを肯定するコメントが大量に寄せられたが、よく調べるとそれらのコメントのアカウントはボットだった。この動画はすでに削除されている。

インフルエンサーからコンテンツの盗用も

ボットとAI音声シミュレーションは、クリエイターのコンテンツにも直接的な影響を与えている。たとえばシーインは、人気インフルエンサーから通知なしにコンテンツを盗んでいることを非難されている。

伝えられるところによれば、シーインは動画をダウンロードし、ウォーターマークを削除して、自社のプロモーションテキストを重ね、改変されたコンテンツをプラットフォーム上の広告で使用している。

ファッションテクノロジーの専門家のダニエル・フェルメール氏は、この方法がTikTokで使用され、盗まれた動画が750ドル（約11万8000円）分のシーインのクレジットを約束する詐欺アンケートへのトラフィックを促進するため転用されていると語る。

これらのアンケートはおそらく詐欺で、インフルエンサーの視聴者に詐欺のリンクをタップさせることで、インフルエンサーのリーチを悪用している。結果として、クリエイターへの信頼が低下することになる。

「これらのクリエイターは多くの場合、フォロワーがそれらのコンテンツをタグづけし、本当に彼らののものなのかと問い合わせてくるまで、自分たちのコンテンツが改変され、転用されていることにも気がつかない」とフェルメール氏は述べている。

「私がフォローしているクリエイターは、クリエイタープログラム（Creator Program）に属している。このような事態から守ってもらえるはずなのにもかかわらず、AIで改変された自分の動画を取り下げさせるためにTikTokとTikTok Shopを1週間にわたって問い合わせ続けなければならなかったと述べている」と言い添える。

TikTok側の対応に疑念も

このような悪用は、インフルエンサーの声をAIで改変し、当人が推奨したこともない商品をプロモートさせるところまで拡大している。インフルエンサーのアイダ・ジャンコーラ氏（@dionysiangirl）は、自分の動画が盗まれ、声がファストファッション商品をプロモートするものに改変されたのを2月に経験した。TikTokとTikTok Shopに報告したが、コンテンツが取り下げられるまでに数日を要した。

TikTokで@styledsaraを制作しているクリエイターのサラ・ウォーカー氏も、2月に同様のことを経験した。投稿を行っていた偽ブランドはプラットフォーム上で同氏をブロックし、AI音声の動画を取り下げるようにという要請にも応じなかった。

「悪意のアクターがAI音声の操作を使用し、疑いを持たない消費者にジャンク商品を売りつけようとするのは驚くにあたらないが、プラットフォームがこのような新しい形のID窃盗からクリエイターを守らないのにはがっかりさせられる」と、フェルメール氏は述べる。

しかし、コンテンツ詐欺やAI音声の使用に特化した規制は現在のところ存在していない。その代わりに、ジャンコーラ氏のようなクリエイターは「もぐらたたき」戦略で動画を取り下げさせる方法に頼ることを余儀なくされている。

シーインにとって、報告されているこれらの不適切な使用は最悪のタイミングで行われた。同社は現在、ロンドンで最初の公開株式公募を準備中だと報じられているからだ。このニュースは、有望な上場企業としてのブランドの価値と信頼に疑問を投げかけることになるだろう。

[原文： Is Shein hijacking TikTok with fake voices and deceptive bots?]

ZOFIA ZWIEGLINSKA（翻訳：ジェスコーポレーション 編集：坂本凪沙）