全球首部AI法案生效“不可接受风险”行为被完全禁止

昨天欧盟公布了其《人工智能法案》（AIAct）的指导方针草案，对雇主、网站、平台等主体合规利用AI技术的方式和情景，作出了进一步的解释说明。不过，这些指导方针并不具备法律约束力，主要是《人工智能法案》的执行参考，最终解释权归欧盟法院。

依据新发布的指导方针，企业若滥用AI技术潜意识操控、欺骗误导、“戴有色眼镜”区别对待个人或群体，都有可能被处以最高3500万欧元，或全球总营业额的7%的罚款。

同时，指导方针中也提出了一些可豁免处罚的情况，比如涉罪犯抓捕、医学治疗、军事使用、科研、个人非商用等。

欧盟这部《人工智能法案》是全球首部全面监管人工智能的法规，该法案把AI应用的风险分为了4类，包括不可接受风险、高风险、透明风险和最低风险。

其首批法规本月2日刚正式生效，这意味着法案中规定的“不可接受风险”行为被完全禁止，诸如上文提到的潜意识操控和歧视性对待。

整部法案则将于明年的8月1日正式生效。按照欧盟官网的信息，这期间指导方针会根据实际执行经验与技术进步定期更新。

该草案链接：https://ec.europa.eu/newsroom/dae/redirection/document/112367

一、误导老人付费订阅，未经许可抓取人脸照片，均涉违法

基于《人工智能法案》第5条，欧盟界定的禁止性人工智能行为主要有以下6种情形：

1、操控、欺骗与剥削

使用闪烁的视觉、听觉信号等潜意识技术，在未被察觉情况下影响行为。例如，在广告中插入人眼无法察觉的“闪屏”图像，形成潜意识操控。

通过欺骗性技术误导用户，使其在非自愿或未充分知情情况下做出决策。例如，利用情绪分析技术引发用户购买某产品或服务，对用户实施情感操控。

利用心理偏见、脆弱性或社会经济因素进行操控或剥削。例如，针对老年人设计误导性界面，诱导点击，从而剥削弱势群体。

同时满足以下所有条件，上述情况便构成禁止性人工智能行为。它们分别是使用潜意识、操控性或欺骗性技术；使个人或群体行为发生实质性扭曲，无法做出知情决策；导致显著伤害，或有合理可能性造成伤害。

2、社会评分

禁止基于社会行为或个性特征，对个人或群体进行分类评分，特别是当评分涉及了以下两种情况，一是数据来自无关社会情境，二是不公平或不成比例的差别对待。

例如，禁止某机构通过监控社交媒体行为评分，影响就业机会；禁止使用评分系统限制贷款发放。

同时满足以下所有条件，上述情况便构成禁止性人工智能行为。其包括公共或私人机构的评分系统，例如信用评分、教育评级等；也适用于带有歧视性的应用，如基于性别、种族或经济地位评分。

3、刑事风险预测

禁止仅基于个人特征，包括性格、行为模式等，来预测犯罪风险的人工智能系统，比如基于种族或文化背景预测犯罪倾向。

但如果符合以下情况可以予以豁免，即基于客观和可验证事实的人类评估，包括一些直接关联某犯罪活动的证据，例如通过特定数据分析，支持人工审查犯罪行为。

4、面部图像无差别抓取

禁止通过互联网或监控视频，大规模、无目标抓取面部图像，以建立或扩展面部识别数据库。

例如，从社交媒体抓取公众面部照片，用于训练面部识别算法，经用户明确同意的合法抓取的情况除外。

5、情感识别

禁止在工作场所或教育环境中使用情感识别技术，例如通过摄像头抓取数据，分析学生在课堂上的注意力或情绪。

若仅限于医疗诊断或安全目的使用该技术，则可以予以豁免。例如，涉及精神疾病诊断时，所用到的基于情感识别技术的医疗设备。

6、实时远程生物特征识别（RBI）

禁止在公共场所实时远程生物特征识别（RBI），用于执法目的。

但如果是搜寻特定犯罪受害者，如拐卖儿童；预防迫在眉睫的威胁，如恐怖袭击；追踪特定犯罪嫌疑人等情景，则可以予以豁免。

二、科研和国安领域不受法案监管，企业最高至少罚2.6亿元

适用范围方面，涉及以下3种情况的人工智能系统不适用《人工智能法案》：

1、专用于国家安全或军事目的；

2、处于科研阶段的人工智能技术，但后续应用于实际场景或流入市场时，需完全符合法案要求；

3、个人非商业用途，例如家庭安全监控。

法案监督方面，参与《人工智能法案》的成员国需指定市场监督机构，欧盟数据保护监督员负责监管欧盟机构的人工智能系统。

处罚条款方面，最高罚款为3500万欧元，或涉事公司全球总营业额的7%。以数额较高者为准。如果是公共机构，罚款上限则为150万欧元。同一行为若违反多个条款，不得重复处罚。

结语：全球首部AI法规落地，前方阻力重重

欧盟的《人工智能法案》是全球首部管理维度较为全面的人工智能法律框架，但自去年3月最终批准后，仍受到不少科技大厂和AI领域头部公司的反对。据TechCrunch日前报道，Meta、苹果、法国AI大模型独角兽MistralAI均未签署该法案。

另据英国《金融时报》昨日报道，美国现任总统特朗普本月初警告称，他认为欧盟对美国公司采取的任何行动，都是一种“税收形式”。他在达沃斯世界经济论坛（WorldEconomicForuminDavos）上讲话时称：“我们对欧盟有着非常大的抱怨。”

此外，各人工智能系统设计符合《人工智能法案》的同时，也需要遵守《通用数据保护条例》（GDPR）等数据保护法规、广告法、医疗器械法规、数字服务法（DSA）等实际涉及到的法规。