最近几个月,与各种执法和军事机构签订合同的各种科技公司爆发了争议。在谷歌,员工公开表达了他们对该公司向美国国防部提供人工智能技术的合同的厌恶。令人沮丧的是,一些谷歌员工实际上已经退出了 。亚马逊还面临内部冲突,因为一群员工向CEO杰夫贝索斯(他还拥有华盛顿邮报 ,与美国情报机构有密切联系的报纸) 发出内部信函 ,要求他停止将亚马逊的Rekognition面部识别软件卖给法律执法。 6月, Activist Post报道称,电子前沿基金会,美国公民自由联盟,人权观察,新闻自由基金会和其他近40个组织联合起来,要求亚马逊停止向执法机构提供监控技术。这些组织签署了一封致亚马逊的信,该信件谴责该公司开发新的面部识别工具,允许使用警用摄像头进行实时监控,并在美国大多数主要城市使用不断增长的互联网络摄像头。 “亚马逊一直在大力推广这种名为”Rekognition“的工具 – 执法部门,它已被佛罗里达州和俄勒冈州的代理商使用,”EFF写道。 “这一制度为政府提供了巨大而危险的监督权力,并对全国各地社区的隐私和自由构成威胁。其中包括亚马逊的许多客户,他们占美国在线消费者的75%以上。“亚马逊和谷歌与执法部门和政府的合作不仅引发了活动家和公民自由团体的抵制。这个问题实际上导致另一家科技公司的CEO宣布他的公司不会与这些代理商做生意。面部识别软件生产商Kairos的首席执行官Brian Brackeen最近在Tech Crunch的专栏文章中宣布了这一消息。 “有一个全面了解软件如何工作的特权给了我一个独特的视角,塑造了我对其用途的立场,”Brackeen写道。 “因此,我(和我的公司)已经开始相信在执法或任何形式的政府监督中使用商业面部识别是错误的 – 并且它为道德腐败的严重不当行为敞开了大门。” Brackeen还指出,目前的面部识别软件倾向于错误地识别有色人种。 “为了真正有效,为面部识别软件提供动力的算法需要大量的信息。他们看到的有色人种的图像越多,就越有可能正确识别它们,“Brackeen写道。 “问题是,现有的软件还没有暴露在有足够数量的人的图像中,而是可靠地依赖它来识别它们。而错误的识别可能会导致错误的定罪,或者更糟糕。“
美国没有地方承认支持虚假逮捕和谋杀的地方。“
Brackeen 告诉华尔街日报 ,他的公司已经拒绝建立轴突企业公司,前身为泰瑟国际警察身体相机和电动武器制造商面部识别程序的合同。他还表示,Kairos拒绝建立一个系统,通过无人机收集的镜头识别人群中的人。 Brackeen先生是否夸大了将面部识别软件和AI放在现任政府和警察手中的恐惧?有没有理由担心科技公司向“当局”出售他们的玩具?最近由北加州ACLU获得的文件显示,亚马逊的面部识别程序Rekognition目前被奥兰多和俄勒冈州华盛顿县的警察使用。与黄貂鱼手机监控工具一样,该工具要求执法部门签署保密协议,以避免公开披露。联邦军正在呼吁亚马逊“坚持公民自由”并“削减执法部门使用其人脸识别技术。”亚马逊自己的宣传材料指出,Rekognition可以通过“即时搜索包含数十个数据库的数据库来实时识别人员”。数百万张面孔。“亚马逊提供了一种”人物跟踪“功能,它说”对个人进行调查和监控,简单而准确“用于”监控应用程序“。亚马逊表示,Rekognition可用于识别”团体照片中的所有人脸,拥挤的事件“以及机场等公共场所。“联邦军警告说,当地警察可以使用Rekognition识别军官摄像机记录的政治抗议者。此外,Rekognition可以跟踪人们,即使他们看不到他们的脸,也可以识别和记录一个人的性别,他们正在做什么,他们穿什么,以及他们的情绪状态。该程序还可以标记它认为“不安全”或“不合适”的内容。