迟来的法案,跑不过AI。
谁将成为欧洲AI监管法案第一位受害者?
不是中美AI巨头,而是欧洲本土AI公司。
这项针对人工智能的监管议案,早在2021年4月就被欧盟委员会提出。
不过自那之后,草案一直被欧洲议会拖延着,欧盟各成员国也态度不一。
直到去年ChatGPT的推出,习惯了对于科技巨头“重拳出击”的欧盟委员会再次开始推动法案的谈判,欧洲议会的议员们也开始注意到生成式人工智能背后的风险。
最终在本月上旬,在经历长达36小时的“马拉松式”辩论与谈判后,欧洲议会、欧盟成员国和欧盟委员会三方终于达成一致,抢在中美两个AI大国之前率先抢跑了这项《人工智能监管法案》(Artificial Intelligence Act)。
然而看似减少了风险背后,其实也为欧洲本土的AI公司们戴上了一圈“枷锁”。
新AI法案,监管了什么?在谈论这部法案的影响之前,让我们先看看这部堪称“史上最严”的人工智能监管议案,究竟严格在哪里?
按照欧洲理事会的说法,该法案的中心方法论,是根据人工智能对社会造成危害的能力,进行监管。
换句来说:风险越高的AI,受到的监管就越多。
在欧盟委员会的草案里,针对人工智能应用可能造成伤害的风险,进行三个等级的分类,分别是:不可接受风险、高风险、有限风险以及最小风险。
其中,不可接受的风险包括:“利用人工智能来进行操纵人类潜意识”,或“利用人类或人性的弱点对人类身体或心理造成伤害”,以及“在公共场合滥用实时远程生物特征识别(例如人脸识别)进行执法”等等。
高风险指的是“会对人体健康、安全或基本权利,可能构成重大威胁的系统”。
在推出市场之前,这类系统需要进行强制性合格评估,特别是重要关键的应用软硬件,需要根据现有欧盟法规评估。
在上述两类之外,大多数人工智能工具都归属于最小风险,并不会受到太多监管,
然而公布该草案時,几乎没人会预料到聊天机器人的出现。
因此在最新的法案里,ChatGPT、Bard等生成式人工智能产品都被单拎出来,受到特别监管,这就是所谓的“有限风险”。
从立法流程来说,法案的滞后性是无法避免的事情,尤其对AI这种飞速发展的科技行业而言,无论是技术还是风险,其实都很难预料。
为了减少风险的可能性,欧盟对于未来会出现的人工智能系统,同样做出了限制,以减少潜在的影响。
这其中就包括目前人工智能公司都在研发的“基础模型”以及未来会出现的“通用人工智能”。
如果以目前的ChatGPT而言,确实展示了一定的破坏力,那么对于颠覆性的通用人工智能来说,ChatGPT几乎不存在什么风险。
相比之下,无论是今年10月拜登通过的法案,还是此前中国推出的《生成式人工智能服务管理办法(征求意见稿)》,都仅仅对现有的生成式人工智能进行监管。
欧洲大国的AI野心正是出于对过度监管的担忧,法国、德国、意大利等欧洲老牌强国一直站在欧洲议会的对面,他们倾向于将生成式AI模型制造商进行自我监督,而不是实施强制性要求。
说到这里,就不得不提法国的AI产业。
作为目前欧盟成员国里绝对的大哥,法国在推动人工智能技术的训练和研究上一直非常“疯狂”。
就在今年6月,法国最大的科技峰会Vivatech(“科技万岁”)在巴黎成功召开,本次展会吸引了超过15万人的现场参与,而“人工智能”已经成了每家参展商都避不开的热点。
法国在AI上的疯狂,不仅是舍得砸钱(投资超过5亿欧元打造世界级产业群),建立超级计算机、鼓励建立法语数据库。
同时,法国投资机构还舍得给初创企业投资,Mistral AI公司就是其中之一。
这家由前Meta和Alphabet研发人员共同成立的AI初创公司,号称欧洲版的OpenAI。数月前刚刚获得了由光速创投领投的1.13亿美元种子轮融资,11月又拿下了一笔价值3亿美元的投资。
相比中美竞争对手,Mistral AI公司体量非常小,但靠着目前市场上最强的小模型,Mistral AI仅仅用 7B 模型就达到了大部分大模型的水平,非常适合欧洲本土的公司。
可即使有大笔资金撑腰,Mistral AI还是无法躲过严格的监管环境——在扩大规模前,必须对解决方案的开放度和透明度提出更高的要求。
这里就产生了一个矛盾点:究竟是为了基础模型的规模训练更多“不安全”的数据?还是为了所谓AI的开放度和透明度牺牲模型的规模?
想必有困扰的,不只是Mistral AI一家,许多欧洲AI企业都会面临这两难的选择。
法案之外,英国躺赢?比起法德等国对于监管的担忧,已经“脱欧”的英国或将成为欧洲AI中心的最大赢家。
就在大力投资AI的同时,英国首相苏纳克提出将伦敦定位成AI行业的技术中心的想法,并敦促从业者抓住人工智能的机遇。
尽管技术与市场规模不如美国以及欧洲大陆,但英国在AI监管方面表现得更加开放。
他们将责任分摊给多个不同的机构,而不是创建一个专门负责人工智能技术监管的新机构。
这样的好处可以降低AI监管的失误,让企业更快速的发展。
在此之前,投资人对于已经“脱欧”的英国并不感冒。缺少来自欧盟的资金,也让英国公司更多从事AI芯片等硬件开发。
随着欧盟拿出最严格的AI监管法案,是否意味着英国AI公司也将加入这场竞争中呢?
本文作者:jh,观点仅代表个人,题图源:网络