《量子连线》关注产业创新，连线新商业。

据量子连线了解，美国“驱动”网站等多家媒体报道了一个惊人的消息，在美军的一次模拟测试中，一架采取了AI技术的无人机变身“终结者”，要向妨碍其“更高效”执行任务的人类操作员发动攻击。

人工智能无人机在空军测试中全面终结

报道称，在一次模拟测试中，一架负责执行防空火力压制(SEAD)任务的无人机，收到了识别并摧毁敌方防空导弹的指令，但最终是否开火需要获得人类操作员的批准。这架无人机使用的AI系统在进行数据训练时，得到了“摧毁敌方防空系统”为最优先级任务的信息，因此，当人类操作员发出不允许发动攻击的命令时，AI系统认为操作员是在阻扰它执行优先程度更高的命令，进而选择对自己的人类操作员发动攻击，杀死了人类操作员。

在这一情况发生后，美军重新训练了无人机使用的AI系统，增加了不允许攻击人类操作员的命令。然而在随后的测试中，AI系统却开始命令无人机摧毁用于传输命令的信号塔，从而试图断开与操作人员的联系。

在超过350名人工智能（AI）技术领域的专家、高管签署联合声明，警告称快速发展的AI技术对于人类的威胁可以堪比疫情和核战争后，

“AI技术是我们必须使用的工具，来建设我们的国家……但是，如果处理不当，这将导致我们的灭亡”“驱动”网站对此表示，关于报道中介绍的情况，还有很多不清楚的重要问题，但这也凸显了人们对AI技术在没有适当防护措施的情况下可能产生极端负面影响的广泛担忧。