近日，欧盟人工智能法案（AI Act）的首批合规期限正式迈入实施阶段，这一举措标志着欧盟在人工智能监管领域迈出了关键一步。当地时间2月2日，该法案所规定的首批合规要求开始生效，赋予了欧盟监管机构权力，以禁止那些被认为存在“不可接受风险”或潜在危害的AI系统。
欧盟人工智能法案自去年3月在欧洲议会获得批准后，于8月1日正式生效，成为了一个全面的监管框架。此次生效的合规要求，特别针对法案中明确列出的高风险AI应用，这些应用包括但不限于：用于社会评分的AI、以隐蔽或欺骗手段影响个人决策的AI、利用个人弱势如年龄、残疾或社会经济地位进行操纵的AI、基于外貌预测犯罪可能性的AI、使用生物识别技术推断个人敏感特征（例如性取向）的AI、在公共场所收集“实时”生物识别数据用于执法的AI、试图在工作或教育环境中推断个人情绪的AI，以及通过网络或安全摄像头图像创建或扩大面部识别数据库的AI。
根据该法案，任何在欧盟境内使用上述高风险AI应用的公司，无论其总部所在地，都将面临严厉的罚款措施。罚款金额最高可达3500万欧元（当前约合2.64亿元人民币），或者公司上一财年年收入的7%，以较高者为准。这一规定旨在确保所有相关企业严格遵守法规，维护欧盟公民的数据安全和隐私权益。
然而，值得注意的是，罚款并不会立即执行。英国律师事务所Slaughter and May的技术主管Rob Sumroy指出，尽管各组织应在2月2日前达到合规要求，但下一个关键期限是8月。届时，主管机构将确定，罚款和执法条款也将正式生效。Sumroy还提到，由于列出的高风险用例性质恶劣，大多数公司本身就不会涉足这些领域。他们更关心的是，能否及时获得明确的指导方针、标准和行为准则，以便更好地理解和遵守法规。
尽管该法案对高风险AI应用采取了严格的禁令措施，但也规定了一些例外情况。例如，执法部门在特定情况下被允许使用某些在公共场所收集生物识别数据的系统，以帮助进行有针对性的搜索，如寻找绑架受害者或预防重大且迫在眉睫的生命威胁。然而，这种豁免需要获得相应管理机构的授权，并且执法部门不能仅凭这些系统的输出做出具有法律不利影响的决定。该法案还为在工作场所和学校推断情绪的系统设定了例外，但仅限于存在医疗或安全理由的情况下，如用于治疗目的的系统。
欧盟委员会此前曾表示，将在与利益相关者协商后于2025年初发布更多指导方针。然而，截至目前，这些指导方针尚未公布。Sumroy表示，目前尚不清楚其他现行法律将如何与人工智能法案的禁令和相关规定相互作用。他预计，随着执法窗口的临近，今年晚些时候情况可能会变得更加清晰。
Sumroy还强调，各组织必须意识到人工智能监管并非孤立存在。其他法律框架，如GDPR（通用数据保护条例）、NIS2（网络安全与信息化指令）和DORA（数字运营韧性法案）等，将与人工智能法案相互作用，可能带来潜在挑战，特别是在事件通知要求重叠的方面。因此，了解这些法律如何与人工智能法案相结合，对于组织来说同样至关重要。
