AI的发展趋势已经不可逆！

科技巨头们已经找到了通往AGI的钥匙。

实现AGI、ASI似乎只是时间问题了。

然而面对“AI”这个颠覆性的新事物，人类真的已经准备好了吗？

我想歌德的这则“魔法师学徒”的寓言值得大家深思：

故事是这样的，一位年迈的魔法师有一次要出远门，于是他就把工作坊交给自己的一名小学徒。

老魔法师给这位小学徒布置了一些杂务，比方说去河边打水之类的事情。

小学徒自以为很聪明，想偷懒，就擅自施展了魔法师的一条咒语，让一把扫帚帮他去河边打水。

咒语凑效了，扫帚自动去河边打水回来。

可还没等小学徒高兴多久，他就发现问题的严重性了。

他只会念让扫帚去河边打水的咒语，却不知道让扫帚停下来的咒语。

于是乎，这把扫帚不停地飞去河边打水回来，不一会的时间就快将整个魔法工作坊给淹没了。

情急之下，小学徒拿起斧头把魔法扫帚砍成两段，可谁成想一把扫帚变成了两把，两把扫帚一起飞去河边打水回来。

小学徒急哭了，不知道怎么办才好。

幸运的是，老魔法师这会赶回来了，解除了扫帚打水的咒语。

现在人类打算发展出有意识的人工智能，甚至是智慧超出人类总和的超级智能。

那么，我们是否真的已经准备好了呢？

我们会不会像这位魔法小学徒一样，召唤出了魔法精灵，却没有办法让它停下来吗？

如果AI失控，我们的“老魔法师”会不会出现？

2024年诺贝尔物理学奖得主、素有“AI教父”之称的辛顿（Geoffrey Hinton）表示，AI有10%-20%可能性在未来30年内导致人类灭亡。

我们不知道辛顿的话有多大的可信性，但是起码是给人类敲响了警钟。

当人类打算从笼子里放出“AI”时，我们得确保我们已经掌握了停止它的咒语，而不是寄希望于真的会有一个“老魔法师”出来救场！