ITmedia NEWS > STUDIO > Google、ディープニューラルネットワーク採用児童ポ...

Google、ディープニューラルネットワーク採用児童ポルノ画像検出APIを公開

» 2018年09月04日 09時29分 公開
[佐藤由紀子，ITmedia]

　米Googleは9月3日（現地時間）、インターネット上の児童性的虐待コンテンツ（CSAM；Child Sexual Abuse Material ）検出ツールを発表した。「Content Safety API」の1ツールとして、市民団体やNGO、他のテクノロジー企業など、対策に取り組む団体に無料で提供する。

　同社は英国のオンライン監視団体Internet Watch Foundation（IWF）や2006年立ち上げの「Technology Coalition」に参加しており、インターネットを使った子どもの虐待や児童ポルノの取引を防ぐ技術の開発・導入に取り組んできた。

　IWFなどの団体は、CSAM対策として、ユーザーからの報告やレビュワーによるレビューで問題のあるコンテンツを検出・削除しており、近年ではAIによる画像認識技術も採用している。

　新ツールは、画像処理用ディープニューラルネットワークを採用し、レビュワーがチェックすべきCSAMコンテンツをCSAMである可能性の高い順にソートすることで、レビュワーをサポートする。従来のCSAM検出方法は既に検出されたCSAMのハッシュとのマッチングに依存していたが、新ツールはCSAMとして認識されていないコンテンツをターゲットにすることで、犯罪者に追いつけるとGoogleは説明する。

　Googleのテストでは、レビュワーはこのシステムを使うことで一定時間に検出・対処するCSAMが700％増加したという。

　このシステムを使いたい団体は公式フォーマットから申し込める。

Copyright © ITmedia, Inc. All Rights Reserved.

- PR -

Special

- PR -

クラウドでエンジニアの負荷が減る！

熟練エンジニアのチューニングにも迫るオラクルの自律型データベース、新日鉄住金ソリューションズが実力を検証

「エディフィス」に“攻め”の新製品

こだわりの立体感に“攻め”のポイントカラー、男の物欲を刺激するスポーティメタルアナログウォッチ「エディフィス」誕生の舞台裏を探る

税込2万円台前半の手ごろな価格のNASも！

NASって何？ 何が便利なの？ 高品質NAS「QNAP」の情報を集約した 「QNAP×ITmedia」

老朽化する上下水道、財政難を解決！？

設備稼働状況の可視化や業務効率化によって、多くの水道事業が抱える課題に立ち向かう！オラクルのクラウド型アナリティクスツールを採用。その決め手は何だったのか？

AIがクラウドにもたらす進化とは？

日本企業でも着実に広がっているクラウド導入。その目的はさまざまだが、「ビジネスを効率化したい」という狙いだ。しかしクラウドには依然として課題も残されているが……

テクノロジーで災害に立ち向かえ！

本当に使える日本政府の防災情報基盤、実現の鍵は、相互運用性を備えた「データレイク」を実現する「Oracle Cloud」にあった。

Special

- PR -

「ビッグデータとAIで自分の可能性をスコア化するアプリ」とは

2万円台でココまで多機能！　OPPOの新スマホ「R15 Neo」を試して分かったこと

働き方改革のヒントがここに！特集と事例からひも解く新しい「仕事のしかた」 New!

ベテラン社員が結婚、育児で退職するのは会社にとっても痛手……どうすれば？

テクノロジーで災害に立ち向かえ！本当に使える日本政府の防災情報基盤とは？

熟練エンジニアの手動チューニングにも迫るパフォーマンスとは？

児童わずか数人の小学校。「遠隔合同授業」はうまくいくのか？

手のひらサイズの超小型PC　本体価格3万2800円(税別)から

EVに乗り換えてから、車を使った移動が大幅に増えたというオーナーの声もある

AIやVRなど次代を担うテクノロジーと才能の最先端を追う【先端（ギ）研】

なんでもかんでも「AI」ばかりでウンザリ！　本当に実のある話はどこにある？

税別10万円切り！ ハイスペノートPC「m-Book K」 ‐マウスステーション‐

デジタルウォッチで培った技術を生かす、カシオの新たな製品の魅力を一挙紹介

NASって何？ 使い方は？ 高品質NAS「QNAP」の情報を集約

老朽化する上下水道、オラクルのクラウド型アナリティクスツールで課題に挑む

AIがクラウドにもたらす進化　「自律型クラウドサービス」の衝撃とは？