发生了什么。 根据《条例(欧盟)2024/1689》第 113 条,《人工智能法案》的一般规定(第一章)及其禁止性实践清单(第二章,第 5 条)于 2025 年 2 月 2 日开始适用,即该条例生效六个月后。同日,第 4 条规定的 AI 素养义务开始适用:提供者和部署者必须采取措施,确保代表其操作 AI 系统的工作人员具备足够的 AI 素养。欧盟委员会于 2025 年 2 月 4 日发布了关于禁止性实践的不具约束力指南,并于两天后发布了关于“AI 系统”定义的指南。
禁止的行为。 第 5 条列出了八类实践,其中包括:通过操纵性或欺骗性技术实质性扭曲行为并造成重大损害;利用与年龄、残障或社会经济状况相关的脆弱性;导致不利或不成比例待遇的社会评分;仅依据个人画像或人格特征评估某人实施犯罪的风险;无差别抓取互联网上或闭路电视监控系统中的面部图像以建立识别数据库;在工作场所和教育领域进行情绪识别,但出于医疗或安全原因的除外;通过生物特征分类推断政治观点或性取向等敏感特征;以及执法部门在公众可进入的场所进行实时远程生物识别,只有在目的严格限于列明事项且事先获得授权的情况下才仍可进行。
对治理为何重要。 有几项禁令直接针对国家。社会评分禁令同样适用于公共和私人行为者;基于个人画像预测犯罪的禁令,则限制了警察部门曾测试使用的工具。讨论中经常提及的案例,例如荷兰儿童保育津贴丑闻或澳大利亚 Robodebt 事件,与其说属于被禁止的实践,不如说是风险评分、举证责任和申诉机制方面的失灵;该法案主要通过后续的高风险规则来处理这些问题。
执法。 处罚自 2025 年 8 月 2 日起适用。根据第 99 条,违反第 5 条规定的行为可被处以最高 3500 万欧元或全球年营业额 7% 的罚款,以较高者为准;但各成员国自行决定可在多大程度上对本国公共机关处以罚款。执法工作由国家市场监管机构负责;2025 年期间,若干国家仍在指定此类机构。
值得关注的事项。 第 5 条下的首批执法决定;主管机关对“社会评分”和“情绪识别”的解释范围;是否按该法案要求报告生物识别执法例外的使用情况;以及成员国是否让本国行政机关也面临罚款。高风险系统的时间表于 2026 年另行调整。