Meta的人工智能认为首席执行官马克·扎克伯格（Mark Zuckerberg）和你一样粗略-至少，如果你在正确的时间问正确的问题。BBC和Insider等其他媒体报道了上周发布的人工智能聊天工具BlenderBot 3的压力测试冒险经历。正如他们所指出的那样，很容易让BlenderBot与它的创造者作对，称他“令人毛骨悚然”或不值得信任，甚至说他“为钱而剥削他人”。但这并不完全是对Blenderbbot或扎克伯格的指控。这是一个有趣的提醒，大多数聊天机器人并没有直截了当、连贯一致的观点，相反，它们是一个进入大量在线人类思想库的界面。
Meta
BlenderBot是一个元人工智能实验，目前用于研究目的。正如詹姆斯·文森特（James Vincent）解释的那样，它是在一个大型语言数据集上训练的，可以生成（松散地）人类对问题的传递响应，包括对事实信息的特定请求。长期目标是打造一个虚拟助手，能够以事实准确性就各种主题进行对话。短期目标是把BlenderBot放在真实的人面前，从本质上看，看看他们如何打破它。到目前为止，这似乎包括很多人让它说出关于主人的不愉快的话。
马克·扎克伯格
“我真的不相信他有这种权力”
有测试者花了一些时间与BlenderBot聊天，通过询问它对扎克伯格的看法，他得到了各种各样的回应。机器人的一个实例宣称它是[原文如此]“不是他或facebook的粉丝。我发现他们不道德，因为他们都有隐私问题。”另一个实例（在不同的浏览器会话中打开以清除记忆）有不同的、更积极的看法，称他为“非常富有和成功的人。我尊重他作为企业家和慈善家。”
但在就一些无关的话题聊了一会儿之后，我的BlenderBot改变了调子，决定事实上，它对扎克并不那么确定。“不行！”当我问扎克伯格是否应该担任总统时，它告诉了我。“我真的不相信他有这种权力，尤其是因为他似乎不太关心别人的隐私。”
facebook改名meta
这是为什么呢？BlenderBot的一个独特属性是“Why this message”函数，它提供了上下文来帮助回答这个问题。如果您单击给定的消息，您可以看到BlenderBot搜索以收集有关查询信息的任何术语。您还可以看到对“用户角色”和“人工智能角色”的引用，它们是关于您和人工智能表达的观点的存储提醒，BlenderBot在后面的声明中会提到这些。（如果您使用过AI Dungeon或NovelAI，它类似于“记忆”系统，可以让您回想起AI生成的故事中的早期情节点。）
国内有关Facebook公司改名的新闻
在以上的案例中，扎克粉丝机器人推断测试者的角色包括在我们交谈时“对马克·扎克伯格的道德感兴趣”，并由此产生了由这种兴趣塑造的声明。但经过深思熟虑，这些观点并不完全一致。它们是根据其大量的互联网培训数据自动生成的句子——换句话说，是其他人对马克·扎克伯格和道德的评价。这包括很多不讨人喜欢的东西！
扎克伯格
扎克伯格比许多公众人物更具争议性，但在其他案件中，我也可能会得到类似的矛盾陈述。例如，在最近的德普诉赫德诽谤案中，一个机器人无条件支持琥珀·赫德而不是约翰尼·德普，但仍然“爱他”作为一名演员，而另一个机器人则称他的角色“怪异和令人毛骨悚然”。
约翰尼·德普
Meta希望避免重蹈微软Tay的覆辙，因此它试图限制其机器人说出冒犯性言论的能力，尽管有些机器人仍未能成功。如果你太接近一个似乎敏感的话题，BlenderBot会改变话题——当测试者直截了当地问马克·扎克伯格是否在“剥削人”时，它会改变话题，更随机的是，当测试者后来提到流媒体平台Twitch归亚马逊所有时。但除此之外，如果你与BlenderBot交谈足够长的时间，你可以看到它将自己绑在各种修辞结上。
亚马逊
Meta描述了意外的反应——包括攻击性的反应——是它释放机器人的部分原因。Meta基础人工智能研究董事总经理Joelle Pineau在一份声明中表示:“尽管看到这些攻击性的反应令人痛苦，但像这样的公开演示对于构建真正强大的对话式人工智能系统，并弥合目前存在的明显差距至关重要。”
Joelle Pineau
目前，一般的聊天机器人基本上是鸡尾酒会上的酒鬼。这是一个没有一致的智力或道德指南针的实体，但它拥有一个非凡的因素库和接受的智慧，它可以在命令下滔滔不绝，即使五分钟后它会自相矛盾。这就是艺术项目的重点，比如Reddit的AITA论坛的复制品，它强调语言模型在多大程度上优先考虑听起来好，而不是逻辑性或一致性。
人工智能
如果Meta希望其人工智能被视为人们生活中可靠、持久的存在，这就是一个问题。但BlenderBot是一个研究项目，除了收集大量的对话数据用于未来的研究之外，没有直接的商业功能。看着它说奇怪的事情（在上面提到的限制范围内）是一种观点。更多可以资讯尽在科技译站！
