パスワードを忘れた? アカウント作成
13265088 story
携帯電話

携帯電話内のセクシー画像を検出して保護者に知らせるアプリ 23

ストーリー by hylom
下手に撮影すると子供でも児童ポルノ製造扱いになりますからね 部門より
eggy 曰く、

YIPO Technologiesという会社が、子供の携帯電話内の淫らな画像を検出し保護者に知らせるというアプリ「Gallery Guardian」を開発しているという。同アプリは子供の撮影した、もしくは受信した画像に対して画像認識アルゴリズムを実行し自動的に裸であるか否かを調べるというものだ(Huffington PostBBC)。

BBCが様々な画像を使って同アプリの機能を試してみたところ、服を着ているものの体の一部だけを露出させた写真がアルゴリズムをすり抜けてしまった。YIPO Technologiesによれば、同アプリの開発当初は肌の露出に焦点を当てていたため、こうした写真が検出をすり抜けてしまうのだそうだ。現在は生殖器にも反応するよう開発を進めているが「様々な形や大きさがあるため」アルゴリズムの精度をあげるのに苦労しているという。同アプリはまだ一般公開はされていないようだ。

  • by qem_morioka (30932) on 2017年04月28日 15時17分 (#3202306) 日記

    大きさも判定されるのかっ(ノД`)

    ここに返信
  • >BBCが様々な画像を使って同アプリの機能を試してみたところ、服を着ているものの体の一部だけを露出させた写真がアルゴリズムをすり抜けてしまった。

    メキシコサラマンダーやハダカデバネズミなんかの画像もひっかかるんだろうか。

    完全着衣でも充分エロい画像あるよね。
    逆に全裸でもエロくない画像もあるし。
    #エロの道は深く険しい。

    ここに返信
  • by Kyoutarou.Neko (47787) on 2017年04月28日 14時42分 (#3202276) 日記

    子供が自分ではエロと認識せず、友達の裸なりなんなりを撮った写真って児童ポルノになっちゃうよね。
    そういうのも検出するのが目的なのかな?
    Web上で集めた画像だけじゃなく。

    ここに返信
    • by Anonymous Coward on 2017年04月28日 15時01分 (#3202292)

      > The app looks at every picture a child takes or receives

      この文言からは、Web上で集めた画像はそもそも対象としていないように思える。
      スラドでは「淫らな画像を検出し」となっているか、「子供が撮影した写真を検出し」が正しいのではないかと。

      子供が後々のトラブルを考えずに自分の裸を撮って、誰かに送ろうとするのを防ぐのが主目的なのでは。

      • by Anonymous Coward

        or receives だから,メールや SNS で受信した写真は対象じゃないかな.

        直接的に言及はされていないけど Web のブラウジングも receives の対象だと思うけど.

    • 児童ポルノではないけど、ご両親が夜のプロレスごっこをしてるのを子供がこっそり撮影しちゃってるケースとかも。
      子供がなんのことか分からずに学校で友達に見せちゃうとかいろいろとヤバめ。

  • by Anonymous Coward on 2017年04月28日 14時42分 (#3202274)

    相撲やプロレスのファンの子は大変だろうな。

    ここに返信
    • by Anonymous Coward

      あとは水泳に
      裸芸のお笑い芸人
      ほかはなんだろう

  • by Anonymous Coward on 2017年04月28日 14時57分 (#3202285)

    拡張子を変更して対抗するのであった。

    ここに返信
    • by Anonymous Coward

      渋谷系JK               .の格好をしたOL24歳フォルダ
      とか
      ランドセルに三つ編みJC        .の格好をした主婦36歳フォルダ
      とかなんですね

      #どんな子供だ

  • by Anonymous Coward on 2017年04月28日 15時03分 (#3202293)

    iOSで言えば、OSのデフォルトの画像ライブラリである写真アプリのDBはアクセス権限許可・拒否でサードパーティがアクセスできるようになる。
    が、例えばInstagramアプリ内で完結してる場合、サードパーティが画像をチェックすることはできない。

    Androidだとなんでもできちゃうのかな?
    ファイルシステム全体にアクセスして画像を全てチェックしていく、とかできるのだろうか。

    いろんな意味でiOSはセキュア(ユーザーにとって自由・監視されにくい)端末と言えるのか。

    ここに返信
  • by Anonymous Coward on 2017年04月28日 15時05分 (#3202294)

    こんなのすでにGoogleさんあたりがAIに学習させて認識するやつに手を付けててそのうち始めそうだけど。
    投入できるリソースではかなわないだろうし。

    ここに返信
  • by Anonymous Coward on 2017年04月28日 15時11分 (#3202298)
    ここに返信
  • by Anonymous Coward on 2017年04月28日 15時31分 (#3202316)

    特定の肌の色にしか反応しなくてひと悶着おこったりして
    ほら日本でもスポーツ界みると海外にもルーツを持つ人増えてるし

    って書こうと思ったらこれ海外のニュースか
    それなら肌の色ぐらいはさすがに対処してるか

    ここに返信
    • by Anonymous Coward

      何色まで対応してるんでしょうね。
      白黒黄色はもちろん、緑とか青とかピンクとかラバースーツ的なものまで。

  • by Anonymous Coward on 2017年04月28日 15時59分 (#3202337)
    親のコレクションに追加されるのですね
    ここに返信
    • by Anonymous Coward

      ※今後の改善資料としてサーバーにも転送されます。

      と極小の字でかいてあるに違いない

typodupeerror

弘法筆を選ばず、アレゲはキーボードを選ぶ -- アレゲ研究家

読み込み中...