谷歌AI“误诊”，让医疗事件上升为民事案件！

科罗拉多州的一位全职奶爸，因为他遵循劝告放摄了他生病的小孩的剧照，就被搜索引擎的AI幼儿性性侵犯过滤器“抓住”，引发了噩梦般的连锁反应，就此以警方追查收场。

不均如此，搜索引擎已将这些剧照上标为沾染内容可，并且制剂了这位弟弟的留言板、联络人和剧照的个人资料，即使在他提出上诉后仍然断然拒绝撤销他们这一荒谬的决定。

小孩的公共卫生照成了AI拘禁他的证据

贝克是一名前软体工程师，因幼子下体水肿，呕吐心痛，于是在接受第二天的视频公共卫生咨询后，他们按照护士的建议，放了几张幼子病菌处的剧照并上传回的医院所在的公共卫生系统中。

很快，在剧照的帮助下，医师诊断并开了低剂量，得到抢救的幼子也痊愈了。此时幼子的病虽然疗伤了，但搜索引擎的AI却侦测到他爹有“卧床”！没过两天，因“相当严重违反搜索引擎政策且可能违法”的“沾染内容可”，贝克的搜索引擎账户被制剂。

此时经由报道后，很多人显然贝克被困在了一个算法网路中，这个网路是为了“诱捕”人们比如说幼儿性性侵犯材料而设计的。然后，贝克收到了圣迭戈警察局的一封信，建议访问他的互联网搜索消息，右边早先，视频，剧照以及其他文件。但由于他的账号全部被引起争议，引发追查管理人员一度找不到他本人！

在追查管理人员不收了最主要番功夫联络上贝克本人，对他顺利完成了上半年审核后，就此视同这不组合成性侵犯或剥削幼儿。即使贝克向搜索引擎提供了警方的简报，以重新作用于他的个人资料，但很差点，被告知他的个人资料将被永久写入。

“错杀一千不放过一个”

搜索引擎在2018年说明，它早已开发了一种人工智能工具，使其能够更快地侦测和写入幼儿性性侵犯材料。在被AI基本功能上标后，这些剧照随后由真人审核，如果它们被确定为幼儿性性侵犯，搜索引擎会制剂他们的个人资料，并向非商业组织起来国家失踪和受剥削幼儿为中心提出简报。

均在2021年，它就向国家失踪和受虐幼儿为中心提出了高达62万份简报，并引起争议了大约27000个与幼儿性内容可之外的个人资料。月初，该非商业组织起来上标了4200多名潜在的新幼儿嫌疑犯，其中数人就是贝克的幼子。“幼儿性性侵犯令人憎恨，我们致力于预防其在我们的平台上传播，”该日本公司说明。

但大写字母基本权利基金会的技术研究专家杰森·卡拉斯说明，科技巨头扫描上传回他们服务器上的图片是一种侵入性的不道德。美国儿科性侵犯幼儿委员会主席苏珊·哈尼也建议双亲不必放摄小孩的剧照，即使是医师的建议！

实际上，这种AI侦测工具即便如此是非常不成熟的，很容易造成误判，这对于无辜者来说将会是多场生活上的气旋。去年苹果在宣布幼儿确保安全计划时，闹出的见也相当可观。当年一片反对声被催生，不少用户显然隐私会被侵犯。

幼儿权益倡导者说明，这些科技日本公司的合作对于打击性性侵犯图像的在线传播至关重要，但这对个人隐私的深藏需创建在合理的以内，更不用说如今AI极为成熟。索菲亚觉得最惨还是这个弟弟，他无缘无故地为搜索引擎的错误余力了！