Anthropic 刚刚宣布了其 Claude 聊天机器人最令人毛骨悚然的功能：计算机使用。这项新功能目前处于测试阶段，它使 Claude 能够监控您的计算机屏幕、接管您的鼠标和键盘的控制权、启动任何应用程序，并像用户一样与它们进行交互。 Anthropic 分享的示例表明，该模型执行需要跨多个应用程序进行规划和执行的多步骤任务。例如，它可以搜索您计算机上的文件以查找填写 Web 表单的信息。它可以设计网页，下载到您的计算机上，然后在浏览器中打开。或者，它可以在 Web 上搜索信息、计划活动、发送电子邮件和填写您的日历。 “Claude 3.5 Sonnet 是第一个在公开测试版中提供计算机使用的前沿 AI 模型。在这个阶段，它仍然处于试验阶段，有时很麻烦且容易出错。我们提前发布计算机使用功能以征求开发人员的反馈，并预计该功能会随着时间的推移而迅速改进，“Anthropic 的一篇博客文章称。 在我的脑海中，我可以想到很多可能出错的方式。例如，提示注入攻击可以命令模型访问恶意网站并在您的计算机上下载恶意软件。或者，它可以从您的本地文件中读取信息并将其发送到远程目标。请注意，每次交互都会向 Anthropic 的云服务器发送信息，其中可能包括敏感数据。或者简单地说，它可以用作冒充合法用户的工具。 也就是说，我认为这可能是一个有趣的工具，可以帮助发现和试验使用和组合应用程序的新方法，而无需进行任何修改。 LLMs 可以与人形机器人和自动驾驶汽车进行比较，这些 AI 系统旨在导航专为人类设计的环境。但是，就像这些系统一样，该模型将不得不处理需要不断调整和重新训练的长尾极端情况。 但与自动驾驶汽车和类人机器人的环境不同，计算机应用程序可以轻松适应 LLMs。使用计算机使用功能开发概念验证后，可以通过向应用程序添加正确的 API 来创建更高效、更强大的基础设施。然后，LLM 可以从计算机使用过渡到更成熟、更可靠的 API 使用。我仍然很想看看开发人员将以意想不到的方式使用这个新功能。