据外媒报道,欧盟议员正在起草针对人工智能管理的新规,考虑的罚款最高可达全球年营业额4%(或高达2000万欧元,换算成人民币就是1.6亿)。根据泄露的AI监管草案,针对一系列被禁止的使用情况或极少数威胁欧盟基本权利的用途制定禁令预计将在下周正式公布。
欧盟对人工智能监管的计划已经酝酿了一段时间。早在2020年2月,欧盟委员会就发布了一份白皮书,概述了监管人工智能所谓“高风险”应用的计划。
当时,欧盟议员们考虑将重点放在行业上——将能源和招聘等特定行业视为风险载体。然而,根据泄露的草案,似乎又重新考虑了,该草案没有将人工智能风险的讨论限制在特定行业或部门。
相反,重点是高风险人工智能应用的合规要求,无论它们可能发生在哪里(然而,武器/军事用途被特别排除在外,因为此类用例不属于欧盟条约)。但这份草案并没有完全清楚“高风险”将如何定义。
欧盟委员会在这方面的首要目标是通过一个沉浸在“欧盟价值观”中的合规制衡系统,提高公众对人工智能的信任,以鼓励接受所谓的“值得信赖的”和“以人为中心的”人工智能。因此,即使不被认为是“高风险”的人工智能应用程序的制造商,也仍将被鼓励采用行为准则——正如欧盟委员会所言,“鼓励自愿应用适用于高风险人工智能系统的强制性要求”。
该法规的另一部分涉及支持欧盟人工智能发展的措施——推动成员国建立监管沙箱计划,在将人工智能系统推向市场之前,初创企业和中小企业可以优先获得开发和测试人工智能系统的支持。
草案指出,主管部门“应被授权对参与沙盒的实体的人工智能项目行使酌处权和比例杠杆,同时充分保留主管部门的监督和纠正权力”。