10代が多いサービスだからこそ。

Instagramが、AIを使っていじめを検出する仕組みを数週間のうちに導入するとブログにて発表しました。検出された投稿は運営チームに送信され、いじめかどうか判断されるそうです。最終的には人のチェックなんですね。

その写真がいじめかどうかをAIが見極めるには、機械学習を使用するとのこと。Instagramに投稿されている写真の多くは肯定的で喜びを表してるものですが、そうでない属性や傾向をもった写真をピックしていく感じでしょうか。写真だけでなくキャプションからも検出するそうです。

また、以前実装された不適切コメントを非表示にするフィルターが、ライブビデオにも導入されます。リアルタイムに判断してコメントを弾けるとは、すごい。

不適切投稿についてはユーザーが運営に報告するというのが一般的でしたけど、今回のいじめフィルターやTwitterのアカウント凍結など、運営側で対策するソーシャルサービスも増えてきました。すべてをAIに任せるか、どこかで人が介在するか。物量の問題もありますし、各社模索しているようです。

ブログには、今の10代は他の人よりも多くのいじめをオンラインで経験しているため、このフィルターはそうした世代を保護するのにも役立つ、とあります。Instagramの努力は、平穏な学校生活にもつながるはず。

Source: Instagram