【周伯文：目前AI发展是失衡的，世界99%的算力用于模型的训练、只有不到1%用于安全优先的考量】#2024世界人工智能大会##周伯文：探索人工智能发展的“45度平衡律”# 在今天上午举行的2024上海人工智能大会开幕式上，上海人工智能实验室主任、首席科学家周伯文在演讲中表示：目前ai的发展是失衡的。

同时他提到人工智能发展的“45度平衡律”：横轴是ai的技术能力的提升，在transformer为代表的基础模型架构下，将以大数据大参数量大计算量的尺度定律，让目前的AI能力呈指数级增长；与之对比，在纵轴的AI安全维度，典型的技术如红队测试、安全标识、安全护栏与评估测量等，呈现离散化、碎片化且后置的特性。

目前世界上99%的算力用于模型的训练，只有不到1%用于对其或者更多安全优先的考量。所以我们需要找到AI安全优先，但又能保证AI能力长期发展的技术体系。我们把这样一种技术思想体系叫做"AI的45度平衡律”，是指从长期的角度来看，我们要大体上沿着45度的安全与性能平衡发展，所谓的平衡是指短期内可以有波动，但不能长期低于45度。