【编者按】在科技与执法边界日益模糊的今天，加拿大埃德蒙顿市悄然启动了一项引发全球争议的试验：7000名“高风险”名单上的人脸，正通过警用随身摄像头搭载的AI系统被实时识别。这不仅是北美首次将人脸识别技术深度植入日常警务的公开测试，更可能成为全球执法模式变革的转折点。当企业以“安全革新”为名推进技术落地，当警方强调“精准防控”却未公开算法供应商，当伦理委员会成员因担忧风险集体辞职——我们不得不追问：在效率与隐私的天平上，谁有权决定砝码的偏移？这场始于冰天雪地的实验，或许正在点燃一场关乎自由与安全的燎原之火。
在加拿大埃德蒙顿市，配备人工智能的警用随身摄像头已接受训练，能够识别约7000名被列入“高风险”监视名单者的面孔。这项实时测试，正检验着这项曾因过度侵犯隐私而遭排斥的人脸识别技术，是否能在北美警务体系中找到一席之地。
然而，在领先的随身摄像头制造商Axon企业公司宣称警方使用人脸识别技术存在严重伦理问题的六年后，这项于上周启动的试点项目，正在百万人口的北美最北端城市埃德蒙顿之外，拉响更广泛的警报。
Axon人工智能伦理委员会前主席巴里·弗里德曼告诉美联社，他担心这家总部位于亚利桑那州的公司，在未经过充分的公开辩论、测试和专家对社会风险及隐私影响的审查的情况下，就贸然推进。该委员会曾在2019年促使公司暂时放弃了人脸识别技术。
“除非有明确的益处迹象，否则绝不能使用这些具有真实成本和风险的技术，”现任纽约大学法学教授的弗里德曼表示。
Axon创始人兼首席执行官里克·史密斯辩称，埃德蒙顿试点并非产品发布，而是“早期实地研究”，旨在评估技术表现，并揭示负责任使用所需的安全保障措施。
“通过在美国以外的真实环境中测试，我们可以收集独立的见解，加强监督框架，并将这些经验应用于未来的评估，包括在美国国内，”史密斯在一篇博客文章中写道。
埃德蒙顿警察局代理局长库尔特·马丁表示，该试点旨在通过让警员随身佩戴的摄像头能够识别被当局归类为对“暴力或攻击性；武装且危险；武器；逃脱风险；高风险罪犯”等类别有“标记或警告”的人员，从而使巡逻警员更安全。马丁在12月2日的新闻发布会上说，目前该监视名单上有6341人。他补充说，另一份单独的监视名单增加了724名至少有一项严重刑事逮捕令的人员。
“我们确实希望确保它的针对性，使目标锁定在犯有严重罪行的人身上，”Axon负责任人工智能总监安-李·库克说。
如果试点扩大，可能对全球警务产生重大影响。以开发泰瑟电击枪闻名的上市公司Axon是美国随身摄像头的主要供应商，并日益向加拿大等地的警察机构推广。去年，Axon在向加拿大皇家骑警销售随身摄像头的竞标中击败了其最接近的竞争对手、总部位于芝加哥的摩托罗拉解决方案公司。
摩托罗拉在一份声明中表示，其也有能力将人脸识别技术集成到警用随身摄像头中，但基于其伦理原则，“有意避免部署此功能用于主动识别”。它并未排除未来使用的可能性。
阿尔伯塔省政府在2023年强制要求该省所有警察机构，包括首府埃德蒙顿，配备随身摄像头，称此举是记录警方互动、收集更好证据以及缩短解决调查和投诉耗时的透明措施。
尽管美国许多社区也将随身摄像头视为问责工具，但实时人脸识别在公共场所识别人员的前景在政治光谱两端都不受欢迎。民权倡导者的强烈反对以及关于种族不公的更广泛讨论，曾促使Axon和大型科技公司暂停向警方销售人脸识别软件。
最大的担忧之一是研究显示该技术存在缺陷，在种族、性别和年龄方面表现出有偏见的结果。此外，在实时视频流中匹配面孔的准确性，也不如匹配身份证或警方存档照片中摆拍的面孔。
美国几个州和数十个城市已试图限制警方使用人脸识别，尽管特朗普政府正试图阻止或劝阻各州监管人工智能。
欧盟已在其27个成员国内禁止实时公共面部扫描警务技术，除非用于绑架或恐怖主义等严重犯罪。
但在已脱离欧盟的英国，当局十年前就开始在伦敦街头测试该技术，并在过去两年中用它进行了1300次逮捕。政府正在考虑在全国范围内扩大其使用。
关于埃德蒙顿试点的许多细节尚未公开。Axon不自研用于识别人脸的AI模型，但拒绝透露其使用的第三方供应商。
埃德蒙顿警方表示，试点将持续到12月底，且仅在白天进行。
“显然，这里天黑得很早，”马丁说。“光照条件、我们冬季的低温，所有这些因素都将影响我们对概念验证成功与否的评估。”
马丁表示，参与试点的约50名警员不会知道人脸识别软件是否匹配成功。输出结果将在事后于警局进行分析。然而，马丁说，未来这可能帮助警方检测附近是否存在潜在危险人物，以便他们呼叫支援。
这仅应在警员已开始调查或响应呼叫时发生，而非仅仅在人群中巡逻时。马丁说，响应呼叫的警员可以将摄像头从被动模式切换到具有更高分辨率成像的主动录像模式。
“我们真心希望尊重个人的权利和他们的隐私利益，”马丁说。
阿尔伯塔省信息和隐私专员黛安·麦克劳德的办公室表示，她于12月2日收到了埃德蒙顿警方的隐私影响评估报告，同日Axon和警方官员宣布了该计划。该办公室周五表示，目前正在努力审查这份评估报告，这是收集“高敏感度”个人数据项目的必要步骤。
阿尔伯塔大学犯罪学教授特米托普·奥里奥拉表示，鉴于该技术已在机场安检等环境中无处不在，他对该市尝试实时人脸识别并不感到惊讶。
“埃德蒙顿是这项工具的实验室，”奥里奥拉说。“结果很可能是改进，但我们对此并不确定。”
奥里奥拉指出，该警察局与原住民和黑人居民的关系有时“冰冷”，特别是在去年警方枪击一名南苏丹社区成员致死事件之后。人脸识别技术是会使警务更安全，还是会改善与公众的互动，仍有待观察。
Axon过去曾因其技术部署而面临反弹，例如在2022年，弗里德曼和Axon人工智能伦理委员会的其他七名成员因对配备泰瑟枪的无人机的担忧而辞职抗议。
在Axon决定放弃人脸识别技术后的几年里，首席执行官史密斯表示，公司对这项“已变得显著更准确”的技术进行了“持续的、受控的实验室研究”，现在已准备好进行现实世界试验。
但Axon在给美联社的一份声明中承认，所有人脸识别系统都受到“距离、光照和角度等因素的影响，这些因素可能对深色皮肤个体的准确性造成不成比例的影响”。
Axon表示，每次匹配都需要人工审核，其测试的部分内容也是“了解人工审核员必须具备哪些培训和监督，以减轻已知风险”。
弗里德曼说，Axon应该披露这些评估。他希望看到更多证据，证明自他的委员会得出结论认为该技术不够可靠、无法在伦理上证明其在警用摄像头中的使用是合理的以来，人脸识别技术已有所改进。
弗里德曼表示，他也担心警察机构在没有地方立法者审议和严格科学测试的情况下，就为这项技术的使用开绿灯。
“这不应仅仅由警察机构决定，当然也不应由供应商决定，”他说。“试点是个好主意。但本应有透明度、问责制……这些都没有。他们就这么推进了。他们找到了一个愿意推进的机构，然后他们就推进了。”
—-
美联社记者凯尔文·陈在伦敦为本报道做出了贡献。
