人脸识别+定点驱逐！加拿大边境服务局新系统将上线

针对每年有数千名没有遵守离境规定的人，加拿大边境服务局（CBSA）计划推出一款应用程序，使用人脸识别技术来追踪那些被命令驱逐出境者。

这款移动报告应用程序将使用生物识别技术来确认个人身份，并在用户签到时记录他们的位置数据。通过信息获取获得的文件显示，CBSA早在2021年就提出了这一应用程序的建议。

发言人证实，一款名为 ReportIn 的应用程序将在今年秋天推出。CBSA 在后续评论中表示，该应用程序还可以用于那些正在接受不准入境听证的永久居民和外国人。相关报道显示，尽管存在隐私方面的担忧，加拿大边境机构仍正在考虑在智能手机上使用人脸识别系统。

新系统可以帮助 CBSA 完成大量的工作，2021年的一份文件中指出，每年大约有2000名被命令离开加拿大的人没有按规定离境，这意味着CBSA“必须投入大量资源进行调查、定位，并在某些情况下拘留这些客户，”

该机构认为，使用智能手机应用程序是一个“理想的解决方案”。

通过应用程序定期更新用户的“居住地址、就业情况、家庭状况等信息，将使CBSA能够获取相关信息，用于联系并监控使用者，以发现任何不合规的早期迹象，”文件中写道。

“此外，鉴于自动化，客户更有可能感到参与其中，并意识到CBSA对其案件的可见度。”

文件还指出：“如果客户未能按时现身，应用程序收集的信息将为定位客户提供良好的调查线索。”

该项目的算法影响评估尚未在联邦政府网站上发布，评估显示，CBSA曾尝试使用的生物识别语音技术由于“技术故障”而被淘汰，因此开发了ReportIn应用程序以取代它。

评估指出，应用程序通过“面部生物识别技术和由移动设备/智能手机的传感器和/或GPS提供的位置数据”记录信息，然后将其发送到CBSA的后台系统。

一旦人们提交照片，“面部比对算法”将生成与参考照片的相似度分数。

如果系统未能确认面部匹配，将触发一个供工作人员调查的流程。

“每次用户报告时，也会收集他们的位置，如果个人未能遵守规定，”文件指出，个人将不会被“持续跟踪”。

该应用程序使用亚马逊网络服务（AWS）的技术。这个选择引起了麦克马斯特大学数字社会公共政策执行教育项目主任布伦达·麦克菲尔的注意。

她表示，虽然许多人脸识别公司会将其算法提交给美国国家标准与技术研究院（NIST）进行测试，但亚马逊从未自愿这样做。

亚马逊网络服务的发言人表示，其Amazon Rekognition技术经过了广泛测试——包括由专注于负责任AI的公司Credo AI和iBeta质量保证等第三方进行测试。

发言人补充道，Amazon Rekognition是一个“基于云的大规模系统，因此无法像NIST参与指南中描述的那样进行下载。”

“因此，我们的Rekognition面部活体检测技术被提交给iBeta实验室进行测试，该实验室是获得研究院认证的独立测试实验室，”发言人说。

CBSA文件指出，使用的算法将是商业机密。在可能产生重大影响的情况下，麦克菲尔质疑“是否适合使用受商业机密或专有秘密保护的工具，这种工具否认了人们了解如何真正做出与他们相关决策的权利。”

温莎大学法律、机器人和社会学主席、副教授克里斯滕·托马森表示，提到商业机密可能意味着有法律障碍阻碍系统信息的公开。

多年来，人们一直担心那些受系统错误影响的人因知识产权保护而被禁止获取更多信息，她解释说。

CBSA发言人玛丽亚·拉杜塞尔表示，该机构“开发了这款智能手机应用程序，使受移民执法条件约束的外国国民和永久居民可以在不亲自到CBSA办公室的情况下进行报告。”

她说，CBSA在开发应用程序时“与隐私专员办公室密切合作。” “注册ReportIn将是自愿的，用户需要同意使用该应用程序，并同意使用他们的照片来验证身份。”

约克大学难民法实验室副主任佩特拉·莫尔纳表示，该机构实施应用程序与接受方之间存在权力不对等的情况。

“在这种权力差距如此巨大的情况下，一个人真的能真正自愿同意吗？”

如果个人不同意参与，他们可以选择亲自报告，拉杜塞尔说。

托马森还警告说，面部识别技术存在出错的风险，且这种风险对种族化个人和肤色较深的人群来说更高。

莫尔纳表示，文件中“几乎没有讨论……人权影响”，这非常令人不安。

CBSA发言人表示，Credo AI对该软件进行了审查，以检查是否存在针对特定群体的偏见，并发现六个不同群体中面部匹配率达到99.9％，她补充说，该应用程序将在发布后继续进行测试，以评估准确性和性能。

最终决定将由人类做出，官员将监督所有提交，但专家指出，人们往往倾向于信任技术做出的判断。

托马森表示，人们有一种“相当广泛认可的……心理倾向，倾向于依赖计算机系统的专业判断，”他们认为计算机系统可能更少偏见或更准确。