【悲報】iPhone内の画像から勝手に児童ポルノを通報するAIに「欠陥」がみつかる [512899213]

【悲報】iPhone内の画像から勝手に児童ポルノを通報するAIに「欠陥」がみつかる  [512899213]

1 ::2021/08/30(月) 17:22:51.60 ID:i8WiV4xt0●.net ?PLT(27000)

Apple社の児童ポルノ検出技術に欠陥が発見されました。

現在Appleは、アメリカにおいて、個人の持つiPhoneやiCloudを勝手にスキャンして、児童ポルノを通報する「NeuralHash」というAIソフトの導入を進めています。

しかし8月18日にコード共有ウェブサイトGitHubのユーザーがシェアした情報によると、肝心のAIソフト(NeuralHash)が「犬と抽象画」を同じ画像と認識していると発見したとのこと。

iPhoneは膨大な数が世に出回っているため、わずかな誤検出率でも、誤認逮捕を引き起こす可能性があります。

しかし、いったいどうしてNeuralHashは犬の写真と抽象画を「同一」と判断してしまったのでしょうか?

ソース
https://nazology.net/archives/95176

関連ニュース
AppleがiPhone内の画像から勝手に児童ポルノを通報すると発表!今年中に米国で開始
https://nazology.net/archives/94197
ドコモがiPhone SE 特価セールを開始、端末のみ22,001円、新規契約またはMNPなら1円 [422186189]
https://hayabusa9.5ch.net/test/read.cgi/news/1630306862/

25 ::2021/08/30(月) 17:37:24.64 ID:qohG4UpA0.net

この出川哲朗も欧米製AIなら児ポ認定してくるのでは

16 ::2021/08/30(月) 17:31:33.88 ID:5ZpeEhgh0.net

つまり児童のポルノはきわめて抽象的で犬に似ているんだな

95 ::2021/08/30(月) 21:54:12.14 ID:wsI8+2VE0.net

アップルの社員が児ポ画像や動画を横流しする未来が見えた

27 ::2021/08/30(月) 17:37:41.49 ID:Cmz9JLgB0.net

>>13
おまえティムコックだろ

154 ::2021/09/01(水) 06:40:19.63 ID:vXPkeis30.net

こんなんキャッシュ保存通報されたらどうしよう

60 ::2021/08/30(月) 18:19:58.89 ID:dJuy7+el0.net

>>26
というか実際それが児童ポルノ扱いされて親が捕まったりしてるから

73 ::2021/08/30(月) 19:22:20.96 ID:WWRyGDcx0.net

>>5

77 ::2021/08/30(月) 19:35:34.11 ID:1kJ30TLv0.net

クラウドとは言え、勝手に他人のデータを見る事はどうなの?

138 ::2021/08/31(火) 20:47:05.78 ID:FYx4kjDe0.net

>>45
ゾヌやん

6 ::2021/08/30(月) 17:26:37.35 ID:tAxVMqnJ0.net

>Appleは実際に警察に通報を行う前に、人間の目によるダブルチェックを行うとしていますが

ちょっと履歴書買ってくるわ

37 ::2021/08/30(月) 17:43:18.09 ID:b03YeYVl0.net

やばい
iCloudにやばい漫画の画像ある

137 ::2021/08/31(火) 20:41:44.38 ID:1SaH2jsi0.net

たとえ児童ポルノだろうと単純所持を違法とするのは憲法違反だろ
著作物の所持や鑑賞は思想の自由の範疇になる
思想の自由は公共の福祉によって制限されない唯一の自由だ
そこを捻じ曲げると、テロリスト認定された人物の著書を持ってるだけで逮捕される様な思想弾圧が実現しかねんぞ

136 ::2021/08/31(火) 15:45:35.89 ID:IhdZw4060.net

ジャップなんて外人からしたら童顔すぎて全員ロリに見えるレベルなのに
日本のAV入れてたらアウト祭りだな

83 ::2021/08/30(月) 20:35:16.97 ID:PSJMf6xD0.net

たかだかスマホメーカーが
人を裁くのってどうかしてるよ
Appleはどこに向かおうとしてるのか

34 ::2021/08/30(月) 17:40:12.37 ID:6VkrLynf0.net

これには炉立憲さんカンカン!w

40 ::2021/08/30(月) 17:46:00.68 ID:7kk1qL0P0.net

え?うわあああ 

139 ::2021/08/31(火) 23:32:18.45 ID:YCyFkN3A0.net

ぐるぐるの画像判別は黒人とゴリラの判別ができなく中止になった

9 ::2021/08/30(月) 17:27:51.06 ID:nP82WaXb0.net

>>7
クック「科学のためだ私の秘蔵フォルダを使いたまえ」
社員「おちんちんばっかりじゃないですか!」

70 ::2021/08/30(月) 19:09:55.89 ID:WAZdPdOY0.net

これもアウト?

94 ::2021/08/30(月) 21:52:50.15 ID:0lrsVrJD0.net

抽象画はモザイク処理画像でか?

89 ::2021/08/30(月) 21:46:50.44 ID:6nz00QoR0.net ?2BP(1000)

日本で開始
日本で開始

35 ::2021/08/30(月) 17:41:08.28 ID:4WjZygp/0.net

なんかサムネでグロ画像になるアレみたいに誤認識する細工を仕込んでるんじゃないの?

7 ::2021/08/30(月) 17:26:38.15 ID:+iRGCXJp0.net

どうやって学習させたんですかね

63 ::2021/08/30(月) 18:29:59.02 ID:CNw3lvjO0.net

管理者がその趣味の人だったら・・
某国アプリに写真フォルダアクセス許可してる奴

13 ::2021/08/30(月) 17:31:08.39 ID:G1lHi6g+0.net

>>9
クック「逆に考えるんだ。オチンチンの付いた女の子だと思えば2倍お得じゃないか」

82 ::2021/08/30(月) 20:32:06.41 ID:Zb26EYOS0.net

犬画像集めたならうちから莫大な量の画像が収集されたかもなぁ・・・w

84 ::2021/08/30(月) 20:58:05.44 ID:elHFCYMM0.net

100 ::2021/08/30(月) 22:08:30.28 ID:PoP7U2Im0.net ?2BP(1000)

ロリコンは
アンドロイド使うようになる

64 ::2021/08/30(月) 18:45:03.79 ID:3xWI23L10.net

ディストピア感ある

39 ::2021/08/30(月) 17:45:40.10 ID:Qt0carpo0.net

中国とやってること同じじゃん

55 ::2021/08/30(月) 18:07:46.39 ID:BXimAXQt0.net

>>6
これ

51 ::2021/08/30(月) 18:05:21.45 ID:8H6TckCF0.net

要らん事するな、阿呆

15 ::2021/08/30(月) 17:31:31.30 ID:ArKxJWyz0.net

携帯にエロ画像保存するアホ居るのか?

124 ::2021/08/31(火) 14:45:27.16 ID:LvlW/6+m0.net

ラーメンの写真と風景の写真しかなかった

29 ::2021/08/30(月) 17:38:11.04 ID:MnIPBuVf0.net

日本で導入されたら9割くらい逮捕されるだろ。
アニメの画像とか持ってたら完全に児ポ判定されるw

150 ::2021/09/01(水) 06:01:56.11 ID:amGRorfl0.net

不倫相手の38才人妻のエロショットと動画しかなかった

49 ::2021/08/30(月) 18:02:20.73 ID:8eoccmge0.net

これだからアップルは怖い
海外セレブが100人くらいエロ写メ撮ってて漏らされたろ

HDDにまだあったわ

101 ::2021/08/30(月) 22:09:03.84 ID:PoP7U2Im0.net ?2BP(1000)

アンドロイド使いの男は
ロリコンというレッテル貼り

31 ::2021/08/30(月) 17:38:56.08 ID:YI2SOMCc0.net

自分の子供とかの写真も消されるのか

142 ::2021/08/31(火) 23:57:49.04 ID:vAYL7gB+0.net

虹は大丈夫なんだよな

140 ::2021/08/31(火) 23:40:31.95 ID:4ljJYccB0.net

17歳と18歳の区別がつくのか?

109 ::2021/08/31(火) 11:10:50.35 ID:0WwmlOni0.net

バイデン派がトランプ支持者を摘発するための不正アプリだからなw
今どきiPhoneなんか使う情弱には残当w

26 ::2021/08/30(月) 17:37:37.21 ID:RGkIuD+V0.net

我が子の成長記録が消される欠陥商品なのでは

103 ::2021/08/30(月) 23:37:28.56 ID:B0tsbv7j0.net

変態は遺伝子残すなボケ

148 ::2021/09/01(水) 05:54:27.40 ID:OmWyNd/z0.net

俺のおちんちんが児童ポルノだとォ!?

114 ::2021/08/31(火) 11:18:44.53 ID:z2z+x1aP0.net

とりあえずAIがちゃんと稼働するまでは俺がやるよ。

69 ::2021/08/30(月) 18:55:57.68 ID:ORY3ZKSz0.net

>>12
なんかアレみたいだな
例の、「パパだ〜い好き」を探すツールみたい。

4 ::2021/08/30(月) 17:24:33.62 ID:6o0iz6TX0.net

てっぺん薄いのに。すごいねぇ。

93 ::2021/08/30(月) 21:50:56.06 ID:IC8iT5y00.net

建前:児ポ監視
本音:端末データの収集
だから欠陥だらけなんだろ

8 ::2021/08/30(月) 17:26:55.79 ID:lf2XQDFS0.net

日本の端末からが異常に多いんだろうな

ニュー速カテゴリの最新記事