相册照片被谷歌举报:全网封杀警方介入但也喊冤无门

深度 | 2022-08-26 04:21:02| 26
相册照片被谷歌举报:全网封杀警方介入但也喊冤无门

原标题:私人相册照片被谷歌AI举报:全网被封,警方介入,投诉无门。

奥菲寺的玉发

量子比特|微信官方账号QbitAI

远离原来的光谱。

旧金山的一名全职爸爸被谷歌屏蔽,因为他用自己的安卓手机拍下了儿子腹股沟感染的照片,以便向医生通报孩子的病情。

因此,谷歌将这些照片标记为儿童性虐待材料(CSAM)。

当事人随即决定上诉,但谷歌不仅毫不留情地拒绝,还标记了他的其他视频和照片,这使得旧金山警察局开始介入调查。

推特上网友讨论激烈。有人聚焦于侵犯隐私,有人说宁严勿松,还有一个妇科医生开始担心他的教学:

这是乌龙球还是出格事件?

一个在线医疗引发的“案例”

问题始于2021年2月。那个星期五晚上,马克和他的妻子非常担心,因为他们儿子的腹股沟又肿又疼。

第二天接受视频医疗咨询前,老婆按照护士的建议拍了几张儿子腹股沟感染的高清无码特写,上传到医保系统。

为了便于医生根据照片进行初步诊断,马克在妻子拍摄照片时将矛头指向了儿子的不适。

在照片的帮助下,医生诊断并开出了抗生素。

马克和他的儿子(来源:纽约时报)

儿子的病解决了,但马克的麻烦来了。

两天后,马克的谷歌账户被封禁,原因是“有害内容”“严重违反谷歌的政策,可能是非法的”。

“有害内容”包括“儿童性虐待和性剥削”。

马克头痛地喊道:

“天哪,谷歌可能认为那是儿童色情。”

更糟糕的事情还在后面。马克是谷歌的重度用户,从同步日计划到照片和视频的备份,他都依赖自己的Gmail账户。

但就因为这个令人哭笑不得的乌龙,多米诺骨牌效应随之而来——他被Google 屏蔽了!

他无法访问自己的电子邮件、联系人和照片,他的Google Fi帐户也被关闭(这意味着他必须去另一家运营商申请新的电话号码)。

通过法律程序起诉大约需要7000美元。“嗯……...我认为它可能不值7000美元。”马克说。

然而,马克曾在一家大型科技公司担任自动化工具的软件工程师,该工具用于删除被用户标记为有问题的视频内容。

他知道,为了保证AI不出错,通常会有一个的人工审核过程

所以一开始马克并不担心。他觉得只要进入人工审核阶段,就能把户口拿回来。否则,他将与之前的数字生活永远分离。

他填写了申请表,解释了他儿子的感染情况,并要求谷歌审查这一决定。

几天后,谷歌审核组回应称不会恢复账号,并悄悄标注了他的其他视频和照片。更何况旧金山警察局已经开始调查他了。

不过这有点好笑,因为Google Fi和Gmail都被禁用了,警察联系不上马克。

图纽约时报

在试图取得联系后,调查人员对马克进行了全面审查,最终认定此事不构成虐待或剥削儿童

但警方无法与谷歌直接沟通,可见马克的清白;后来,马克提供了一份警方报告,并再次向谷歌上诉,仍无济于事。

无独有偶,在马克账号被封禁的第二天,德州也上演了同样的戏码。

另一个孩子的爸爸按照儿科医生的要求,用安卓手机拍下了宝宝“内脏”感染的照片。照片被自动备份到谷歌云,然后他用谷歌聊天把照片发给了孩子的母亲。

结果惊人的相似,他的Gmail账号也被禁用。因为没有邮箱,他差点买不到房子。

休斯顿警方邀请他去警察局喝杯咖啡。在出示了和儿科医生的聊天记录后,他很快被从派出所放了出来。

警方认为他是无辜的,但谷歌不这么认为。虽然他是一个使用付费账号10年的谷歌老用户,但是他的账号找不到了。

现在,这个孩子的父亲要用Hotmail地址发邮件,被朋友无情嘲笑。

AI标记儿童性虐待,每年数百万次

2021年,谷歌提交了超过62万份涉嫌虐待儿童的报告,禁止了超过27万个用户的账户,并提醒当局发现了4260名潜在的儿童性虐待受害者。

当然也包括上面被冤枉的两个爸爸。

收集大量数据的科技巨头将充当看门人,检查内容,以监控和预防犯罪。每年,他们都会对儿童遭受剥削或性虐待的图像进行数百万次的标记。

但是内容检查可能需要偷看私人档案,比如偷看你的电子相册。两位爸爸就是没想到这一点,以至于“急于求医”在谷歌里变成了“儿童性侵”。

检查时,科技巨头们一般使用两种工具:

一个是微软2009年发布的PhotoDNA

PhotoDNA的工作原理

它建立了一个虐童照片的数据库,将每个人的电子相册中的照片与数据库中的照片进行比对,即使照片略有差异,也能找出传播虐童图像的用户。

包括脸书、Twitter和Reddit,都使用PhotoDNA。

另一个是Google在2018年发布的开发者工具包内容安全API

它使用深度神经网络处理图像,使得审查员处理的虐童图像内容在相同时间内增加了700%。

谷歌自己使用这个人工智能工具包,它也是脸书和其他人的开源工具。

这个人工智能工具包的一般审查过程如下:

两位爸爸的照片会自动备份到谷歌云,并标记为人工审核。

手动验证这些照片是否符合虐童图片的定义。

锁定用户账号,继续在账号中搜索其他虐童图片。

(Mark还有一张张晨全家卧床的照片,因为衣服不整洁再次被标记。)

向国家失踪和受虐待儿童中心的网络热线报告

不得不说,Google AI Toolkit在识别图像内容方面表现出了惊人的能力。CyberTipline2021在2021年每天收到大约80,000份报告,这些报告由40名分析师进行审查,以便NCMEC进一步向警方报告。

CyberTipline主管表示,这是“系统正常工作”。

但这无疑是一把双刃剑。毕竟,如果情节严重,即使父母是无辜的,也可能失去孩子的抚养权。

虽然上面提到的两个爸爸都在苦于用安卓拍照,但苹果用户也不要太高兴。

毕竟,只要你使用谷歌,就会面临审查

更重要的是,当苹果公司去年宣布其儿童安全计划时,有很多噪音。

在苹果发布的iOS/iPad OS 15.2第二个测试版中(内部版本号:19C5036e),增加了对儿童的保护。

简单的理解,苹果是想在iOS和iPadOS系统中加入图片审核功能,自动检测iPhone和iCloud是否涉及儿童色情图片和画面,从而打击与儿童相关的性犯罪。

当时一片哗然,很多用户认为隐私会被侵犯,90多个NGO写公开信表达严重不满。

最终,苹果搁置了该计划,并无限期延长。

爸爸的牛奶乌龙事件发生后,马克的妻子迅速从她的iPhone上删除了为儿子拍摄的照片,因为担心苹果也会对她的账户进行标记。

针对这一事件,谷歌儿童安全运营负责人表示:“受大环境和远程医疗日益普及的影响,父母确实有必要给孩子拍照以辅助医生诊断。”

她说,谷歌已经向儿科医生寻求帮助,以便人类检查人员能够知道并区分出于医学原因拍摄的类似照片。

马克仍在为他的谷歌账户奔走。

在得知旧金山警方将自己谷歌账户的内容保存在优盘后,马克现在最大的愿望就是拿到一份拷贝。

不然太不方便了!

标签:, ,

相关推荐

AIGC再迎里程碑!ChatGPT爆火,有哪些机会可以挖掘?

AIGC再迎里程碑!ChatGPT爆火,有哪些机会可以挖掘?

技术进步总是令人兴奋的。最近ChatGPT的发布,让人们对AI的认识提升到了一个新的高度。

深度 4 2022-12-09 16:48:35
苹果将至 老罗已来:AR到底走到了哪一步?

苹果将至 老罗已来:AR到底走到了哪一步?

©️深响原创 · 作者|皇甫钰文 2015年,苹果AR/VR头显设备立项的传闻甚嚣尘上,行业普遍认为苹果的入局将直接“带飞”整个产业,引爆消费市场。 七年时间过去了,各种关于苹果AR的谍报、预测仍然层出不穷,甚至今年苹果全球开发者大会之后,库克 ...

深度 6 2022-12-09 16:47:50
将切入3nm生产,台积电冲破重重障碍在美设厂究竟图什么?

将切入3nm生产,台积电冲破重重障碍在美设厂究竟图什么?

Micronet报道,当地时间12月6日,TSMC亚利桑那州晶圆厂举行了首批机器设备的抵达仪式。TSMC邀请了包括客户、供应商、学者和政府代表在内的嘉宾来庆祝这一重要的里程碑。此前,网络问政嘉宾包括美国总统拜登和美国商务部长吉娜 middot雷蒙多、美国国会议员 ...

深度 4 2022-12-09 16:46:42
货拉拉“竭泽而渔” 司机停运反抗 一场“双输”的对峙

货拉拉“竭泽而渔” 司机停运反抗 一场“双输”的对峙

货拉拉,依旧处于风暴之中。 从上月中旬开始,不少货拉拉司机在一些短视频平台上发布视频,内容是不满货拉拉平台推出微面车型订单业务、调整会员费和信息费收取标准等,并喊出了停运和罢工的口号。 这类视频发布后,引起了众多货拉拉司机的共鸣和响应。 ...

深度 4 2022-12-09 16:45:19
安克的运气 华强北哭着说好

安克的运气 华强北哭着说好

这是半佛仙人的第1113篇原创 1 后台一直有人留言让我写安克(Anker)。 想知道这家公司是怎么把充电头卖那么贵,还能让美国人心甘情愿买单的。 以及,自己有没有可能也做一个这种品牌。 只能说,这个世界上无法出现第二个安克了。 第一个这么做的,是安克 ...

深度 4 2022-12-09 16:44:25
苹果官网下单排队到明年?这些年轻人选择“魔改版”iPhone 14 Pro

苹果官网下单排队到明年?这些年轻人选择“魔改版”iPhone 14 Pro

记者张永毅 编辑高 如果真的有一个“史上最难供货的iPhone”的排名,iPhone 14 Pro系列绝对可以算是迄今为止最认真的苹果产品。一方面,iPhone 14/14 Plus销量遇冷,苹果紧急将产能转移到Pro系列;另一方面,它仍然是稀缺的生产能力。现在由于需求旺盛,加 ...

深度 4 2022-12-09 13:28:04
马斯克脑机接口遭调查:5年杀死超1500只动物

马斯克脑机接口遭调查:5年杀死超1500只动物

编译|徐珊 编辑|彭云 12月7日消息,科技圈名人马斯克又卷进来了!据路透社报道,他的脑机接口公司Neuralink因违反动物福利法被美国农业部调查。 路透社的报道提到,Neuralink的4 次实验中的实验动物因人为失误受伤,涉及86头猪和2只猴子。Neuralink的前 ...

深度 5 2022-12-09 13:26:58
2023影像行业八大现状解析:开放拥抱?坚定自我的矛盾困扰

2023影像行业八大现状解析:开放拥抱?坚定自我的矛盾困扰

历史回溯,时光荏苒,影像行业在2022年发生了哪些大事呢?三大主流影像厂商纷纷加码无反相机的比重,单反相机虽存但亡。尼康被传即将停止开发单反相机、佳能要求副厂停售RF卡口自动对焦镜头、索尼宣称2024年手机静态图片拍摄能力或将超越大多数单反相机、 ...

深度 6 2022-12-09 13:25:49
AI比我懂中文?BAT的新战争进行中

AI比我懂中文?BAT的新战争进行中

今年以来,AIGC(AI生产内容)已经成为一种新的互联网趋势,就像年初火起来的Web3一样。

深度 4 2022-12-09 13:25:02
面对“文档翻译”这个难题,百度翻译是如何让我“叹为观止”的?

面对“文档翻译”这个难题,百度翻译是如何让我“叹为观止”的?

作为当年班上第一个用上智能手机的人,肖磊深深感受到了什么叫做“科技降维打击”——晚上写英语作业时,遇到不懂的单词同学可能会翻字典,但肖磊会选择用“高科技”解决问题:打开手机上的翻译App。

深度 4 2022-12-09 13:23:56