AIの訓練のために… 新興国の10代の若者たちがトラウマになるようなコンテンツにさらされている

パソコン作業

Getty Images

パキスタン在住の15歳の少年は放課後、人工知能(AI)の訓練に使われるデータセットを作る手伝いをするウェブサイトにログインしてお金を稼いでいるとWiredに語った

アルゴリズムの訓練をクラウドソーシングしているこのサイトで、少年は時給1~2ドル(約150~200円)稼いでいるという。

「コンテンツ・モデレーション —— AIが無害なコンテンツと、暴力やヘイトスピーチ、アダルト画像を含むコンテンツを区別するのを助ける —— に関する仕事もあって、少年は性的な画像やランジェリー広告、裸像、ルネサンス様式の絵画の裸体など、何ページにもわたって一部が裸の画像を見せられた。アダルト画像と無害な画像を区別し、アルゴリズムが猥褻なものと許容されるものとを区別できるようにするためだ」とWiredは伝えている。

こうした類のギグワークは、東アフリカの国々やパキスタン、ベネズエラ、フィリピンといった新興国でしばしば見られる。

そして、こうしたギグワーカーを使っている企業の中には年齢確認が緩いところも少なくない —— 18歳以上かどうかを確認するチェックボックスに「チェック」を入れるよう求めるだけの企業もあれば、"ルール破り"にあまり厳しくない企業もある(Wiredは年齢確認をパスするために、祖母の顔を使ったという10代の少年の例を挙げている)。

こうした中、AIの訓練に携わる人間への影響がますます懸念されている。ケニアでChatGPTの訓練を手伝った労働者たちは、性暴力に関するテキストなど、おぞましいコンテンツにさらされていたという。

そして、メタ(Meta)はこの報道の直後、あるアウトソーシング会社との契約を打ち切った

西側諸国の技術革新を加速するために、グローバルサウスで労働力を搾取する可能性はここ20年、続いてきたテーマだ。ソーシャルメディアのコンテンツ・モデレーションは長い間、インドやフィリピンなどに外注されてきた。これは潜在的に労働者をおぞましい画像やトラウマになるようなコンテンツにさらすものだ。

そして、Wiredが報じたように、こうした仕事を10代の若者が担っていることは、特に憂慮すべきことだ。

Popular

あわせて読みたい

【申込受付中】11/26ハイブリッド開催

バイオマスとリサイクル、プラスチック問題解決の糸口は?

詳しく見る