ITmedia NEWS > STUDIO > Facebook、画像・動画内のポリシー違反テキスト検出...

Facebook、画像・動画内のポリシー違反テキスト検出AIツール「Rosetta」導入

» 2018年09月12日 08時26分 公開
[佐藤由紀子，ITmedia]

　米Facebookは9月11日（現地時間）、Facebookおよび傘下のInstagramに投稿される画像・動画内のテキストを検出する機械学習システム「Rosetta」を発表した。既に導入済みだ。

　このシステムは、ニュースフィードに関連性の高いコンテンツを表示することやユニバーサル機能に貢献していることに加え、ヘイトスピーチやフェイクニュースなど、ポリシー違反コンテンツの早期検出に役立つという。

　Rosettaは現在、FacebookとInstagramに投稿される1日当たり10億点以上の画像および動画からテキストをリアルタイムで抽出し、テキストとイメージのコンテキストを理解するよう訓練されたテキスト認識モデルに入力している。

rosetta 1 R-CNNで画像から単語を検出し、完全畳み込みモデルで単語を認識する2ステップモデルアーキテクチャ

　Rosettaはまず、画像からテキストを含む可能性の高い長方形の領域を検出し、検出した領域をテキスト認識する。この作業には畳み込みニューラルネットワーク（CNN）を利用する。

roetta 2 長方形部分をテキストとして検出

　このシステムは、英語以外でも、アルファベット以外でも認識する。例えば、右から左に読むアラビア文字でも、ヒンディでも認識するという。このシステムを訓練するために、Facebookは公開された画像を使っている。

　世界に20億人以上のユーザーを擁する同社では、ヘイトスピーチやフェイクニュースへの迅速で正確な対策が大きな課題になっている。

Copyright © ITmedia, Inc. All Rights Reserved.

Special

- PR -

AIがクラウドにもたらす進化とは？

日本企業でも着実に広がっているクラウド導入。その目的はさまざまだが、「ビジネスを効率化したい」という狙いだ。しかしクラウドには依然として課題も残されているが……

テクノロジーで災害に立ち向かえ！

本当に使える日本政府の防災情報基盤、実現の鍵は、相互運用性を備えた「データレイク」を実現する「Oracle Cloud」にあった。

税込2万円台前半の手ごろな価格のNASも！

NASって何？ 何が便利なの？ 高品質NAS「QNAP」の情報を集約した 「QNAP×ITmedia」

その発想はなかった!?里山ならではの新事業New!

岐阜の里山で新規事業が続々誕生！　ロボットプログラミング教室から、まさかの「狩猟者マッチングサイト」まで――起業家たちが集う理由とは？

AIビジネス活用の鍵は"チャットbot"にありNew!

リコージャパンが開発するAIツール。AIチャットbotを活用した「リモートワーク申請」「電話伝言メモ」などより身近なところから始められる土壌が整ってきている。