<em id="6cjgp"></em>
  • ×
    ×

    亚马逊给警察局装备了人脸识别系统就万事大吉了?没那么容易!

    2019-05-06 09:12:42 来源:雷锋网
    如今,人脸识别技术被广泛应用于智能手机领域,但人脸识别技术还未真正成熟。近期,亚马逊想要在执法领域推行AI人脸识别技术,但却遭到了多方质疑与反对?!痘⒍儆时ā范?ldquo;俄勒冈州成为亚马逊人脸识别政策的试验场”发表了相关文章。

    【 图片来源:pixabay  所有者:pixabay 】


    人脸识别技术的应用


    希尔斯博罗,俄勒冈州——当地一家Ace五金公司的员工报告说,一名年轻女子带着一箱11.99美元的焊接气体走出了商店,而她的手提包里却没有支付这笔钱, 一项精心设计的高科技打击犯罪行动迅速展开。
     

    华盛顿县治安官的一名侦探与该机构的特别调查组合作,通过亚马逊(Amazon)开发的一套内部人脸识别程序Rekognition,监控了这家商店的监控录像,发现了可能的匹配。
     

    三个月后,一名缉毒人员在一辆没有标识的SUV上发现了这名女子的车牌,并通过无线电通知其他巡逻人员阻止她。一份逮捕报告显示,一名警员用手铐铐住了她的手腕。她说她需要这些焊接气体来修车。
     

    在俄勒冈州西部波特兰郊外的这个角落里,警员们通常用老式的方法来追查罪犯,他们会把嫌疑犯在办公室里被拍下的照片传真过去,希望有人能认出这张脸。
     

    2017年末,华盛顿县治安官办公室成为已知的美国第一家使用亚马逊人工智能工具(Rekognition)的执法机构,将这片丛林和郊区变成了一个公共试验场,用于新一波实验性的警察监控技术。
     

    Rekognition的准确性饱受争议


    几乎在一夜之间,议员们发现他们的调查权力被赋予了更大的权力,这使得他们能够扫描自2001年以来在该县监狱拍摄的30多万张嫌疑犯脸部照片的匹配项。安全摄像头、社交媒体账号或副手的智能手机捕捉到的人脸模糊图片,可以很快成为他们身份的链接,包括他们的姓名、家庭和地址。警员们说,去年记录在案的人脸识别搜索超过1,000次,他们有时会利用搜索结果查找嫌疑人的Facebook页面、访问他们的家或实施逮捕。
     

    但华盛顿县也成为了一场高风险战斗的起点,这场战斗围绕的是算法不受监管的警务增长。辩护律师、人工智能研究人员和民权专家认为,这项技术可能会错误逮捕那些与视频图像相似的无辜人士。Rekognition的准确性也备受争议,一些专家担心,武装代表的错误身份可能会产生危险的影响,威胁到隐私和人们的生命。
     

    近年来,一些警察机构使用Cognitec、IDEMIA和NEC等承包商开发的系统,对州或联邦调查局的数据库进行人脸识别搜索。但亚马逊的推出,或许标志着这项备受争议的面部扫描技术将成为主流。Rekognition很容易激活,不需要什么主要的技术基础设施,而且几乎任何人都可以以低价获得。首次上传大量图片,华盛顿县花了大约700美元,现在,对于所有的搜索,每月大约只支付7美元。
     

    不过,在头18个月的实际测试中,我们无法判断这项技术究竟有多准确或有效。当警方使用面部识别搜索时,执法人员无需在逮捕报告中注明,导致逮捕的确切次数也不清楚。警长的官员说,该软件已经导致数十人因盗窃、暴力或其他罪行被捕,但在公开记录的要求中只找到了9份涉及面部识别的案件报告。
     

     “就像任何调查技术一样,我们不会告诉人们我们是如何抓到他们的,我们希望他们继续猜测。”重案组的侦探Robert Rookhuyzen说。他已经进行了“几十次”搜索,并且发现在75%的情况下是有用的。
     

    警长的官员说,面部扫描并不总是标志着调查的结束:在指控犯罪嫌疑人之前,警员们还必须确定可能的原因或找到证据。但警长办公室为面部识别的使用制定了自己的规则,允许警员使用该工具来识别尸体、昏迷的嫌疑人和拒绝透露姓名的人。
     

    搜索工具的不完美的结果增加了一个无辜的人被标记和逮捕的风险,特别是在扫描图像模糊、质量低下或部分隐藏的情况下。警员们还可以在搜索过程中扫描艺术家的素描,人工智能专家表示,这种不寻常的使用可能更容易导致错误匹配。
     

    亚马逊的执法指南称,只有当系统对匹配有99%的把握时,官员才应该采纳Rekognition的结果。但是这里的警员们在使用这个工具时的搜索信心测试中并没有显示出来。相反,即使系统在匹配中的确定性很低,在每次搜索中也都会给他们五种可能的匹配。
     

    在回答了《华盛顿邮报》的问题后,亚马逊在这些指导方针中增加了措辞,规定警官在拘留嫌疑人之前应该人为审查所有匹配,搜索不应被用作采取行动的唯一决定因素。
     

    亚马逊人脸识别技术处于舆论漩涡


    亚马逊和俄勒冈州第三大执法机构之间的关系是互惠互利的,治安官办公室正在帮助完善这个系统,亚马逊希望在全国销售这个系统。但亚马逊进军执法销售领域的举动,令一些法律维权人士感到担忧,他们表示,该系统对公民自由构成了太多风险。
     

    “政府是非常强大的,在一个案件中,它会带来很多去应对给公民个体。” 为无法负担起律师费用的被告辩护的华盛顿县公设辩护律师办公室主任Mary Bruington说,“你把它和亚马逊配对了?这是一个强有力的伙伴关系。”
     

    亚马逊网络服务公司云计算部门的人工智能总经理Matt Wood在一份声明中说,Rekognition只是“对一项100%由人类驱动的调查的许多其他线索中的另一个投入。”
     

    尽管如此,该公司仍面临着许多批评:高级人工智能研究人员,国会成员和民权组织,以及亚马逊的自己的一些投资者和雇员曾敦促该公司停止向执法部门提供的技术, 有研究指出,该系统对皮肤黝黑的脸部识别不太准确。亚马逊对这一研究提出了质疑。
     

    亚马逊的一些竞争对手也拒绝了类似的合同。微软总裁Brad Smith说,该公司最近在4月份的时候拒绝提供其面部识别软件给加州执法机构,该机构想要其军官让人靠边停车时可以随时进行脸部扫描。但它已经同意了一项将该技术应用在美国监狱中的协议。微软拒绝提供细节。
     

    亚马逊的投资者将在5月就一项由一群维权股东支持的提案进行投票,该提案将阻止该公司向政府机构出售Rekognition,除非该公司董事会认定它不会对人权构成风险。
     

    今年3月,警长办公室允许《华盛顿邮报》的记者在警车、侦探办公室和县监狱里呆上两天,观察警员们是如何将这项技术融入日常案件的。大多数接受采访的人表示,该软件为他们节省了时间,增加了逮捕人数,并帮助他们处理日益增多的视觉证据。警员和公众辩护人说,到目前为止,还没有出现因为照片匹配错误而对逮捕提出的任何法律挑战。
     

    但是俄勒冈州的律师说,在很多人看来,技术不应该成为治安未来即将迈出的一步,他们建造的系统不是作为技术里程碑,而是道德:如果为了抓住更多的坏人,但有更多的好人可能会被逮捕,这是好的吗?
     

     “人们总是喜欢说,‘嘿,如果是能够抓坏人就很好啊,谁在乎呢’”俄勒冈州的首席副辩护律师Joshua Crowther说,“直到他们有一天也被抓了。”
     

    “与魔术无法区分”


    2016年,当亚马逊(Amazon)公开Rekognition时,该公司称其为一种强大的深度学习人工智能方式的突破,其结果显示“与魔术无法区分”。在一篇配有一位高管宠物狗照片的博客文章中,该公司为人们如何开始使用它提供了一些一般性的想法,包括用于安全检查点或连接在一起收集观众面部数据的广告牌。
     

    这次揭幕式引起了eBay前程序员Chris Adzima的注意,他受雇于华盛顿县治安官办公室,负责开发一款能被警员应用于追踪犯人行为的iPhone应用程序。他的机构在网上已经有成千上万的面部照片,但没有真正的方法来分析它们。通过使用亚马逊的人工智能,他在不到三周的时间里就建立了一个系统并运行起来。
     

    “他们对现实世界中的任何类型的应用案例都没有明确的概念,但他们知道自己创造了一个强大的工具,所以我开始使用它了。”在治安官总部的一个小隔间里工作的高级信息系统分析师Adzima说。
     

    警员们立即开始将面部搜索纳入日常巡逻任务中,Adzima还建立了一个简单的内部网站,让他们可以在巡逻车中进行搜索。他放弃了搜索信心的百分比,并设计系统每次返回5个结果。他说,当系统返回0个结果时,议员们会怀疑他们是否把事情搞砸了。为了增加趣味性,每当一名警员上传一张照片,他还会添加了一个不必要的紫色“扫描”动画——他说这是受到了像《犯罪现场调查》这样的警匪片的启发。
     

    当他开始在亚马逊的服务器上大量输入图像数据时,那里的账户管理人员注意到了这一点,一些人对他将其用于警察工作表示惊讶和兴奋。2017年,美国公民自由联盟的一份公开记录请求首次披露了一封电子邮件。邮件中,一名亚马逊的客户高管将Adzima介绍给一家警用相机公司的高管,该公司希望了解他是如何“克服利益相关者的阻力”的。“你现在是AWS的名人了。”这位高管写道,并附上了一个笑脸的表情符号。
     

    这里的警员们说,这个系统是一个巨大的打击。曾在5起盗窃和盗窃案件中使用过该搜索引擎的Chris Lee表示,他的许多同事成为了多产的用户,渴望找到一种解决艰难狩猎的简单方法。“你总是在想:这会给我们带来什么吗?”他说。
     

    在培训方面,警员们只会收到一份打印出来的办公室人脸识别政策,以及一份简短的PPT演示文稿,提醒他们要小心处理结果。其中一张幻灯片展示了该系统对上传的O.J. Simpson面部照片的反应:退回一张蓄胡须的白人男子的照片。“正如你所看到的,”幻灯片上写道,“这个系统仍然需要人工解释。”
     

    该机构长达四页的政策要求工作人员仅在“犯罪联系”的情况下使用该系统,并禁止在“大规模监控”中使用,或根据宗教、政治活动或种族对人进行监控。但它也提供了一些例外,包括允许在“生命受到重大威胁”的情况下进行面部搜查,或者当警方认为重罪嫌疑人将在特定时间出现在特定地点时进行面部搜查。
     

    这种搜查帮助警员想出了一些非常规的方法。在一个案例中,一名囚犯在监狱里打电话给他的女朋友,她说有逮捕令要逮捕她。警员们进入了这名囚犯的Facebook页面,找到了一段她唱歌的旧视频,并通过人脸识别搜索得到了她的名字,几天后她就被捕了。
     

    警员还可以通过系统查找黑白警用速写寻找结果,他们说,在一个测试案例中,它指向了一名他们已经标记为嫌疑人的男子。亚马逊表示,通过Rekognition进行速写并不违反规定,但它希望人工审核人“密切关注以这种方式生成的任何匹配结果的可信度”。
     

    来自县公设辩护律师办公室的Bruington说,Rekognition的低廉价格和易用性可能会诱使警察机构尝试一种他们可能并不完全了解的系统。她还担心,该系统对脸部照片的依赖意味着任何以前被警察带进来的人,都更有可能在刑事搜查中重新露面。
     

    她说:“无辜的人每天都要接受刑事司法系统的审判。”
     

    “看那只鸟”


    几十年来,人脸识别技术一直是警察局的梦想:一种简单的、隐秘的、可以在不知情或未经他人同意的情况下识别远方的任何人的方法。但直到最近几年,由于成像技术和计算机能力的提高,以及数据存储成本的大幅下降,这项技术才变得廉价和广泛,被用于给Facebook照片加标签,以及解锁iphone。
     

    如今的系统将人们的面部照片分解成长串的代码,称为“特征向量”或“脸纹”,可以与庞大数据库中的其他肖像快速比较。但是,尽管“计算机视觉”算法擅长模式识别,但它们匹配的是像素,而不是线索,而且可能会忽略在人眼看来明显得惊人的不一致性。
     

    尽管如此,事实证明,廉价和容易识别的承诺对许多公司来说太有吸引力了以至于不能忽视。美国国家标准与技术研究所是评估人脸识别算法的联邦机构。该机构最近表示,它已经测试了44家公司的127套系统,测试它们在“大规模人群中的可扩展性”,以及在野外识别“非合作对象”时的准确性。来自微软和中国初创企业依图科技的顶级算法,可以在包含数百万张图像的数据库中,以99%的准确率匹配人脸照片。
     

    亚马逊此前曾拒绝提交Rekognition的评估报告,称这项研究孤立版本的核心搜索算法的测试无法在复杂的基于云端的搜索中运行。但NIST的一名官员表示,这一事实并未妨碍其他公司进行类似的搜索。一位亚马逊官员表示,该公司已启动一项“实质性”努力,去“重新设计”系统的“关键组件”,以便参与其中。
     

    美国联邦调查局(FBI)表示,在过去的一个财政年度,该机构进行了5.2万多次面部识别搜索。2016年,乔治敦大学的法律研究人员发现,至少有52个州或地方机构在某种程度上依赖于由联邦承包商或监控公司建立的面部识别系统。但亚马逊根据“储存的人脸”数量收取部分费用,让任何一支新警察队伍的起步都变得简单起来。
     

    没有联邦法律管制面部识别的使用。不过,今年3月美国参议院提出的一项两党议案,以及亚马逊总部所在地华盛顿州提出的一项议案,这些议案可能会实施新的规定,比如要求公司通知过路人他们的脸正在被扫描。预计旧金山领导人下周将就一项遭到警方反对的提案进行投票,该提案将使旧金山成为美国第一个禁止当地机构使用面部识别软件的城市。
     

    亚马逊高管表示,他们支持国家进行人脸识别立法,但他们也辩称,“不应该因为它可能被滥用就禁止或谴责新技术。”联邦调查局(FBI)特工和奥兰多警方表示,他们已经对该系统进行了测试,亚马逊已经向包括移民和海关执法在内的政府机构推销了这套系统。
     

    华盛顿县的律师们说,他们才刚刚开始在逮捕报告中看到这种技术,一些人正在为可能要在法庭上就系统的可接受性提起诉讼的那一天做准备。在俄勒冈州公共辩护服务办公室工作的副首席辩护人Marc Brown说,他担心系统的隐藏的决策可能使权力的天平倾斜:人类目击者可以在法庭上提出质疑,但对这个“神奇的黑盒”不可以,“我们作为辩护律师不能询问这个过程是如何工作的。”
     

    Brown补充说,该体系的结果可能会通过引导议员们的反应,带来一个巨大的确认偏差问题。他说:“你已经被告知这就是你要找的人,所以当你调查的时候,你的脑海里就会浮现出这个想法。问题不再是谁犯了罪,而是支持计算机分析的证据在哪里?”
     

    亚马逊的软件正迅速变得更加先进。上个月,该公司宣布了一项Rekognition更新,该更新将提高系统的“情绪检测”功能的准确性,可以根据一个人在镜头前的样子自动推测出他的感受。它包括7种受支持的情绪:开心、悲伤、愤怒、惊讶、厌恶、平静和困惑。
     

    亚马逊还拥有广受欢迎的门铃摄像头制造商Ring,该公司去年申请了一项面部识别专利,该专利能够在买家门口发现“可疑”人士。Ring的一位发言人表示,公司的专利申请旨在“探索新技术的全部可能性”。
     

    与此同时,华盛顿县治安官办公室的人脸数据库一直在增长,每年约有1.9万次监狱预约。当人们被逮捕时,他们会被带到一个熙熙攘攘的接待室,在那里他们会被一个网络摄像头拍摄下来,摄像头的顶部是一个红色的豆豆娃红衣主教。“看那只鸟。”拍照的时候警官会对他们说。
     

    这些照片成为了该县整个刑罚系统中囚犯的身份,监狱内部的一个网站和iPhone应用程序将这些照片显示在一个大网格中,这样警员们就可以快速跟踪他们的食物摄入量、行为和自杀风险。
     

    Rekognition在囚犯被关进监狱后不会被使用,但它仍然在监狱里产生了微妙的影响。Brian van Kleef副警长站在3号舱的警卫室神经中枢,这里是囚犯们称为“洞”的最高安全级别的侧翼,他说:“这是我们收集数据库的地方。”

    全部评论

    X
    北京快乐8玩法心得_北京快乐8玩法规则 产妇丈夫讲述遭遇| 郑爽疑与张恒分手| 女婴出生长两颗牙| 女篮奥运资格赛| U盘20年专利到期| 做开运眉后出车祸| 国足接受里皮辞职| 梅姨案儿童认亲| 林志玲婚宴遭抵制| 丹东学生打架事件|