我们正在进入一个全新的时代，一个由人工智能主导的时代。所有人都在谈论AI，尤其是生成式AI。关于AI的讨论已经从科技圈蔓延到了政治、经济乃至社会的各个角落。为什么？因为我们已经看到AI不仅是一个工具，而是一个正在逐渐渗透到我们生活方方面面的系统。这其中，最值得关注的就是所谓的“智慧自动化”（AW），即我们能否让AI真正具备智慧，而不仅仅是“聪明”。

现在的AI被认为是聪明的。生成式AI能写文章、绘画、编代码，甚至可以通过一些专业考试，但这些AI并不具备真正的“智慧”。人们经常混淆智慧与智能的区别，实际上，智能是解决问题的能力，而智慧则是明辨是非、做出正确决策的能力。这就引发了一个问题：我们能够自动化智慧吗？很显然，当前的技术还远远做不到这一点。

生成式AI的一个大问题就是“幻觉”，即它生成的看似真实但实际上是错误的信息。研究显示，生成式AI的幻觉率在3%到27%之间，这个差距相当惊人。幻觉背后的机制很复杂，但可以简单理解为，AI在遇到不熟悉的数据时，它会根据已有的训练数据“猜测”答案。这种猜测有时可能是错误的，这就是所谓的“幻觉”。目前的技术并没有完全解决这个问题，甚至可以说这个问题在未来很长一段时间内都会继续存在。

那么，AI的这种幻觉在现实中会带来什么后果？首先，幻觉的存在意味着我们不能完全信任AI的输出。就算AI表现得再聪明，它依然会有犯错的时刻。而一旦AI广泛应用于需要做出价值判断的场景，幻觉将不再只是一个技术问题，而是一个潜在的社会风险。举个例子，当AI被用于自动化决策、甚至取代部分人的道德判断时，幻觉可能会导致严重的伦理问题。

特别是“价值幻觉”这一概念值得关注。所谓价值幻觉，就是AI在面对不熟悉的道德或价值场景时，可能会生成错误的判断。这类错误可能不仅仅是简单的技术故障，而是直接影响到人类的伦理和道德决策。如果AI在自动驾驶、医疗诊断等场景中发生了价值幻觉，后果将是灾难性的。

为什么会发生这种幻觉？目前一种解释是，生成式AI的训练过程本质上是基于大规模的数据集进行监督微调（SFT）。但问题在于，AI在训练时并没有充分接触到所有可能的场景，特别是那些涉及复杂价值判断的场景。AI只能依赖于已有的数据做出推测，而这些推测有时候就是错误的。换句话说，AI会用已知的答案去应对未知的问题。这在道德判断上是极其危险的，因为不同的价值体系下同样的问题可能有不同的答案。

一个简单的例子，想象一下AI被用来处理国际关系。不同国家有不同的文化背景和价值观，AI可能根据其训练数据生成一个看似合理的解决方案，但实际上却完全忽视了某个文化中的关键伦理问题。这种情况在AI的自动化价值判断中将不可避免地出现。

这让我想起了苏格拉底的名言：“我知道我一无所知。”这句话道出了智慧的本质。智慧并不是拥有所有的答案，而是知道什么时候该承认自己不知道。AI的问题就在这里，它们并不具备这种自我反思的能力。当前的研究已经提出了一些解决方案，比如在AI的训练数据中引入不熟悉的场景，让AI在面对陌生问题时能够更好地承认自己“不知道”。但要完全解决这个问题，显然还有很长的路要走。

这还不是最糟糕的部分。真正的挑战在于，随着AI技术的发展，AI不再仅仅是一个工具，而是一个有“行动力”的智能体。这意味着AI不仅会给出建议，它还能做出实际的决策。AutoGen和CrewAI等框架正在使得AI拥有更强的代理能力，它们可以记忆、规划，甚至执行复杂的操作。这就引出了一个新问题：如果AI在做出行动决策时发生了幻觉，会发生什么？在自动驾驶、金融交易等领域，AI的错误可能直接影响到人类的生活和安全。

这个问题并不仅仅局限于AI技术本身，而是涉及整个AI系统的设计与应用。当前的AI发展模式仍然依赖于所谓的“深度学习”范式，这一范式强调数据驱动的智能生成，但却忽视了智慧的复杂性。智慧并不是数据和算法的简单组合，它需要理解、反思和权衡，而这些能力是目前AI所缺乏的。

问题的根源在于，现有的AW系统尝试通过简单的调整和优化来解决这个问题，但这无疑是治标不治本。即便AI的能力在某些方面不断增强，它依然存在严重的安全隐患。特别是在价值判断上，AI的错误不仅会影响个体的决策，还可能对整个社会产生深远的影响。

另一个值得注意的趋势是所谓的“代理经济”。AI正逐步从工具变为智能体，而智能体的影响力远远超过单纯的技术工具。未来，越来越多的决策将由AI代理完成，而这些决策不仅涉及简单的任务执行，还包括复杂的伦理和价值判断。一个没有智慧的AI将极易被滥用，其后果难以想象。

我们已经看到AI在某些领域展现出的巨大潜力，但潜力背后同样隐藏着深刻的风险。如果我们不能正确应对这些风险，未来的AI可能不仅仅是一个聪明的助手，甚至会成为一个无知的威胁。特别是在智慧自动化的道路上，如果我们继续依赖当前的技术路径，结果可能并不会如我们所愿。

尽管如此，AI并不是不可控的。通过引入新的理论和模型，我们有机会让AI变得更加“智慧”。比如最近提出的认知锚定模型就是一个有趣的尝试。这个模型试图通过重新定义智慧，帮助AI在面对复杂问题时做出更为准确的判断。它不仅关注AI的能力，还强调了AI在不确定情况下应如何反思自己的决策。

这一切都在提醒我们，智慧的自动化绝不是简单的技术问题。它涉及哲学、伦理学、心理学等多学科的交叉研究。而且，这个问题的复杂性远超我们当前对AI技术的理解。我们必须时刻警惕，在追求AI能力的同时，不要忽视智慧的核心价值。

未来的AI不应该仅仅是一个智能工具，更应该是一个智慧的伙伴。要实现这个目标，我们还有很长的路要走。在这条道路上，我们需要抛弃现有的技术范式，重新思考AI的本质，以及它对社会、经济和政治的影响。