AIなどを用いた偽情報がSNSに投稿され、社会問題となっている中で、日本時間で3月1日ごろからXにラベルを表示できる機能が追加されています。

これを利用すると自分の投稿に「AIで生成」というラベルを表示できるようになります。偽情報対策に効果はあるのでしょうか。

投稿に「AIで生成」ラベルを設定可能に

偽の画像や動画は従来の編集技術だけでも作ることはできたものの、生成AIの登場でハードルが下がったことで、社会に与える影響が懸念されています。

これに対して、AIを用いて作られたコンテンツであることが一目で分かるようなラベル表示を求める声があり、導入する事例が出てきています。

今回、Xに加わった「コンテンツ開示」機能では、「有料プロモーションを開示」と「AIで生成」という2つの設定が用意されています。

「有料プロモーションを開示」を有効にすると、「有料パートナーシップ」というラベルがつきます。リンク先の説明によると、これまで本文に含めていた「#広告」や「#PR」といったハッシュタグに近い印象を受けます。

「AIで生成」については「合成生成コンテンツを含むもの」と説明されており、有効にすると「AIで生成」というラベルがつきます。

AI生成の定義についての説明はないものの、「合成生成コンテンツ」（英語ではsynthetically generated content）という言葉からは、ゼロから生成したものに加えて写真などをAIで加工した場合も含むニュアンスが感じられます。

一方で、読者に誤解を与えない範囲でのAI編集については含まない可能性もあります。たとえばYouTubeの場合、「美顔フィルタ」や「音質向上」については開示不要との基準を示しています。

似たようなラベル機能として、Xには議論や風刺を目的とした「パロディアカウント」という概念があります。こうしたラベルがあることで、悪質な「なりすまし」とは区別しつつ、自由な表現活動が可能になっています。

広告やAI利用についても同様に、本文に説明やハッシュタグを加えることに比べると、専用のラベルのほうが判別しやすくなります。コンテンツの透明性が高まることで、読者にとっても投稿者にとってもメリットになるといえそうです。

自己申告のラベル　偽情報対策になるか

問題は、こうしたラベルが偽情報対策になるかどうかという点です。自己申告である以上、悪質な投稿者はこの機能を無視して、ラベル表示のない投稿を拡散させようとするでしょう。

そういった悪意のある投稿に対しては、従来通り返信や引用リポストによる指摘、コミュニティノートによる背景情報の追加などが期待されます。

一方で、「自己申告だから無意味」というわけでもなさそうです。たとえば改変や合成コンテンツについての開示を求めているYouTubeでは、悪質な行為に措置をとる方針を示しています。

Xにおいても、ラベルを設定することなくAIを利用した投稿を続けることで将来的にペナルティの対象になることも考えられます。そうしたリスクを避けるなら、素直にラベルを付けておくほうが無難という考え方が広まるかもしれません。