来自 科技 2021-10-08 17:34 的文章

欧洲议会:禁止警察在公共场所进行自动面部识别

当地时间10月6日,欧盟以377: 248的表决结果通过了一项关于在警察和司法部门使用人工智能系统的决议——禁止警察在公共场所使用面部识别技术,并严格限制他们使用AI进行预测性警务活动。
具体而言,欧盟检察官不应允许在公共场所远距离进行生物识别,例如通过自动面部识别的视频监控和其他生物识别程序。
欧洲议会在解释该决议时指出,执法机构目前使用人工智能将带来各种风险,包括决策不透明、歧视、侵犯隐私、对个人数据保护、人的尊严以及言论和信息自由的挑战。
欧洲议会表示:“这些潜在风险在执法和刑事司法领域加剧,因为它们可能影响无罪推定、人身自由和安全,以及有效补救和公平审判的基本权利。
除了呼吁禁止出于执法目的的面部识别,该决议还呼吁永久禁止使用自动分析其他人类特征,如步态、指纹、脱氧核糖核酸、语音和其他生物特征和行为特征。
该决议称,基于人工智能的身份识别系统在更大程度上错误识别了少数民族、LGBTI人、老年人和妇女,这在执法和司法部门尤其令人担忧。议会的决议呼吁禁止人工智能协助司法决策——这是另一个极具争议的领域,该领域已经应用了自动化,这可能会巩固和扩大刑事司法系统中的系统性偏见。
欧洲议会成员一致认为,人类操作员必须始终做出最终决定,并表示由人工智能驱动的系统监控的对象必须能够获得补救措施。他们还表示,为了确保在使用基于人工智能的识别系统时维护基本权利,算法应该透明、可追溯并有足够的记录。他们呼吁公共当局尽可能多地使用开源软件来提高透明度。
欧洲议会还指出,应该停止由欧盟资助的一项有争议的研究项目——基于面部表情分析的“智能”测谎仪iBorderCtrl。
此外,该决议还希望禁止试图根据公民的行为或个性对其信用评分的社会评分系统。欧洲议会也明确表达了对Clearview AI等面部识别服务的担忧,Clearview AI拥有一个从社交网络和互联网其他部分收集的超过30亿张图片的数据库。
欧洲议会议员佩塔尔·维塔诺夫在决议通过后的声明中说:“人类的基本权利是无条件的。我们在历史上第一次呼吁暂停部署面部识别系统进行执法,因为这项技术已经被证明是无效的,往往会导致歧视性的结果。这份报告是所有欧洲公民的伟大胜利。”
早在今年4月,欧盟就提出了监管人工智能技术高风险使用的立法草案,包括禁止社交打分,原则上禁止在公共场所使用远程生物识别监控。
法案将人工智能的应用场景分为“低、限、高、不可接受”四个风险等级,等级越高,应用场景的限制性越强。所有远程生物识别系统,如人脸识别,都被认为是高风险,执法部门被禁止在公共场所使用这种技术,除非有儿童失踪、恐怖袭击和筛查罪犯等情况。如果有这种情况,还需要司法部门的授权。
聊天等应用属于有限风险。这些应用程序需要让用户知道他们正在与机器交互,并有权决定是继续还是退出该过程。
电子游戏和基于人工智能的垃圾邮件识别属于低风险,因此没有限制。