AI批签, 6000人因这点被拒!CBSA对项目细节讳莫如深！

自从AI在各行业开始大火，AI也进入了家家户户，什么AI写作、AI画图、AI换脸层出不穷。

不过，你听说过AI签证审批吗？这事听起来很荒唐，但加拿大边境服务局还真这么干了！

两名准备从欧洲前往加拿大的旅客，移民文件上出现了“基于量子建议”（based on quantum referral）的奇怪字样，这两人在登机前电子签证被取消，到底是怎么回事呢。

这两个人当时在伦敦准备搭乘Air Transat的班机飞往加拿大，但由于持有的合法电子入境许可突然被取消，导致无法登机，行程被取消。

这一决定是基于加拿大边境服务处（CBSA）正在测试的一种不为公众所知的AI辅助系统，被称为 “量子项目”（Project Quantum）。

“基于量子建议”中的“量子”就是指的这个计划。

这套AI系统形成了一套风险识别模型，会对航空公司提供的乘客名单进行人工智能分析，然后标记高风险人员，并通知CBSA的官员。

从2019年开始到去年年底，"量子项目"已经将13,863名旅客转给CBSA海外联络官做进一步评估，其中6182名旅客被拒绝登上飞往加拿大的航班。

不过，CBSA却对这个项目的细节讳莫如深，拒绝透露该计划背后的筛选标准和算法，引发了人们的担心。

被拒绝登机的两人原来准备来加拿大探望一名家人，但是此人之前是难民，现在已经获得了加拿大永居身份（PR）。而且两人是欧洲罗姆人，也就是吉普赛人，有人怀疑他们的种族和家人的移民历史，使AI系统认为他们有来加拿大申请难民庇护的高风险，从而采取行动将潜在的威胁提前消除在国门之外。

然而，这种做法明显违背了国际难民条约。两人的代理人、新不伦瑞克大学法律教授Benjamin Perryman表示："人工智能的问题是它有非常大的潜在的非故意的种族和民族偏见。

Perryman指出："在这个软件的训练中，是否对难民申请人和罪犯进行了适当的区分，我还不清楚。”

使用这个AI工具测试航班范围正在逐步扩大，从2019年的18个增加到2022年的32个。但是海关官员拒绝透露，所谓AI测试航班是指整条航线上的所有飞机，还是仅包括参与航空公司的飞机。

其他如如何选择航班或路线，在哪些地区部署该系统或衡量旅行者的指标是什么等问题，CBSA也不愿意回答。

总之，这个项目非常低调且隐秘，CBSA官员表示正在测试的AI系统旨在尽早为航空旅客"检测非法移民问题”，并且涉及“国家安全”。

也许有朝一日，所有乘飞机来加拿大的旅客都要先经过AI的筛选，“量子建议”会将更多人拒之于加拿大国门之外。

从这个例子上不难看出，AI已经逐渐深入人们的生活；而CBSA的做法也让许多潜在加拿大移民感到失望，毕竟AI是否会因为训练样本而对特定族裔的产生偏见或歧视，这谁也不好说。

希望CBSA可以早日出台具体的AI算法解释，还所有计划来到加拿大的人一份心安！