西班牙政府近期通过了一项新法案，旨在对未正确标注的人工智能（AI）生成内容的公司处以高额罚款，以打击 “深度伪造” 现象。
数字化转型部长奥斯卡・洛佩斯（Oscar Lopez）在新闻发布会上表示，此项法案参考了欧盟的《人工智能法案》，规定了对被认为是高风险的人工智能系统实施严格的透明度要求。
图源备注:图片由AI生成，图片授权服务商Midjourney
洛佩斯指出，人工智能在提升生活质量的同时，也可能被用来传播错误信息、攻击民主，具有潜在的风险。他强调，任何人都有可能成为 “深度伪造” 攻击的受害者，这种攻击是通过人工智能技术编辑或生成视频、照片和音频，伪装成真实内容，从而误导公众。
根据新法案，未对 AI 生成内容进行适当标注的行为将被视为 “严重违法”，最高可处以3500万欧元（约合3820万美元）的罚款，或者罚款额度将根据公司的全球年营业额的7% 计算。此外，该法案还将禁止一些操控行为，例如使用潜意识技术去影响弱势群体。洛佩斯提到，聊天机器人可能会鼓励有赌博倾向的人赌博，而某些玩具则可能引导儿童参与危险的活动。
法案还规定，禁止机构利用人工智能通过生物识别数据来对个人进行分类或评级，从而影响他们获得社会福利或评估犯罪风险的可能性。不过，基于国家安全考虑，公共场所仍可使用实时生物识别监控。
新规的实施将由新设立的人工智能监管机构 AESIA 负责，但涉及数据隐私、犯罪、选举、信用评级、保险及资本市场的特定情况将由相关监管机构负责管理。该法案仍需下议院的批准才能正式生效，西班牙将成为首批执行这一系列规定的欧盟国家之一。
划重点:
📜 西班牙新法案将对未标注 AI 生成内容的公司处以高额罚款。
💡最高罚款可达3500万欧元，或全球年营业额的7%。
🔒 法案禁止使用潜意识技术影响弱势群体，监管机构将负责执行新规。