携帯電話内のセクシー画像を検出して保護者に知らせるアプリ 23
ストーリー by hylom
下手に撮影すると子供でも児童ポルノ製造扱いになりますからね 部門より
下手に撮影すると子供でも児童ポルノ製造扱いになりますからね 部門より
eggy 曰く、
YIPO Technologiesという会社が、子供の携帯電話内の淫らな画像を検出し保護者に知らせるというアプリ「Gallery Guardian」を開発しているという。同アプリは子供の撮影した、もしくは受信した画像に対して画像認識アルゴリズムを実行し自動的に裸であるか否かを調べるというものだ(Huffington Post、BBC)。
BBCが様々な画像を使って同アプリの機能を試してみたところ、服を着ているものの体の一部だけを露出させた写真がアルゴリズムをすり抜けてしまった。YIPO Technologiesによれば、同アプリの開発当初は肌の露出に焦点を当てていたため、こうした写真が検出をすり抜けてしまうのだそうだ。現在は生殖器にも反応するよう開発を進めているが「様々な形や大きさがあるため」アルゴリズムの精度をあげるのに苦労しているという。同アプリはまだ一般公開はされていないようだ。
くそっ (スコア:2)
大きさも判定されるのかっ(ノД`)
画像認識アルゴリズム (スコア:1)
>BBCが様々な画像を使って同アプリの機能を試してみたところ、服を着ているものの体の一部だけを露出させた写真がアルゴリズムをすり抜けてしまった。
メキシコサラマンダーやハダカデバネズミなんかの画像もひっかかるんだろうか。
完全着衣でも充分エロい画像あるよね。
逆に全裸でもエロくない画像もあるし。
#エロの道は深く険しい。
Re: (スコア:0)
スモウレスラーはポロリが無くてもアウトでは?
Re:画像認識アルゴリズム (スコア:1)
相撲はポロリがあったら負けてしまいます。
「もろだし」って手です。
昭和初期以来出てない手なはずだけど…(記憶に自信なし)
Re:画像認識アルゴリズム (スコア:1)
Re:画像認識アルゴリズム (スコア:1)
防ぎ手は「前貼り」?
Re:画像認識アルゴリズム (スコア:1)
「もろだし」とも書いてありますね。
2000年にもあったとは知りませんでした。
私が調べたのはその前かな、多分。
Re: (スコア:0)
こういう技術の難しいところは、単なる「エロさの度合い」で検出するわけにはいかないところです。
「性的興奮が得られる」ものと「ピックアップしたい(規制したい)」ものは違うのです。
例えば赤ん坊の局部を見ても全く性的興奮を得ない人でも、人前でそういう写真をやりとりしているところを見たら眉をひそめるわけです。このとき「一般的にその写真がエロいからアウト」という基準ではない。
極端なことを言えば、「レイプ画像」は露出度に関係なくアウト判定したいものでしょうけれども、
じゃあその画像は一般的にエロいのかと言われた
つーか (スコア:1)
子供が自分ではエロと認識せず、友達の裸なりなんなりを撮った写真って児童ポルノになっちゃうよね。
そういうのも検出するのが目的なのかな?
Web上で集めた画像だけじゃなく。
Re:つーか (スコア:1)
> The app looks at every picture a child takes or receives
この文言からは、Web上で集めた画像はそもそも対象としていないように思える。
スラドでは「淫らな画像を検出し」となっているか、「子供が撮影した写真を検出し」が正しいのではないかと。
子供が後々のトラブルを考えずに自分の裸を撮って、誰かに送ろうとするのを防ぐのが主目的なのでは。
Re: (スコア:0)
or receives だから,メールや SNS で受信した写真は対象じゃないかな.
直接的に言及はされていないけど Web のブラウジングも receives の対象だと思うけど.
Re:つーか (スコア:1)
児童ポルノではないけど、ご両親が夜のプロレスごっこをしてるのを子供がこっそり撮影しちゃってるケースとかも。
子供がなんのことか分からずに学校で友達に見せちゃうとかいろいろとヤバめ。
きっと (スコア:0)
相撲やプロレスのファンの子は大変だろうな。
Re: (スコア:0)
あとは水泳に
裸芸のお笑い芸人
ほかはなんだろう
一方子供は (スコア:0)
拡張子を変更して対抗するのであった。
Re: (スコア:0)
渋谷系JK .の格好をしたOL24歳フォルダ
とか
ランドセルに三つ編みJC .の格好をした主婦36歳フォルダ
とかなんですね
#どんな子供だ
どういう仕組み? (スコア:0)
iOSで言えば、OSのデフォルトの画像ライブラリである写真アプリのDBはアクセス権限許可・拒否でサードパーティがアクセスできるようになる。
が、例えばInstagramアプリ内で完結してる場合、サードパーティが画像をチェックすることはできない。
Androidだとなんでもできちゃうのかな?
ファイルシステム全体にアクセスして画像を全てチェックしていく、とかできるのだろうか。
いろんな意味でiOSはセキュア(ユーザーにとって自由・監視されにくい)端末と言えるのか。
自分でやんなくても (スコア:0)
こんなのすでにGoogleさんあたりがAIに学習させて認識するやつに手を付けててそのうち始めそうだけど。
投入できるリソースではかなわないだろうし。
創業者が元FX会社の地域社長とか (スコア:0)
https://uk.linkedin.com/in/dskowronski [linkedin.com]
肌の色 (スコア:0)
特定の肌の色にしか反応しなくてひと悶着おこったりして
ほら日本でもスポーツ界みると海外にもルーツを持つ人増えてるし
って書こうと思ったらこれ海外のニュースか
それなら肌の色ぐらいはさすがに対処してるか
Re: (スコア:0)
何色まで対応してるんでしょうね。
白黒黄色はもちろん、緑とか青とかピンクとかラバースーツ的なものまで。
見つけて (スコア:0)
Re: (スコア:0)
※今後の改善資料としてサーバーにも転送されます。
と極小の字でかいてあるに違いない