清华团队提出AI智能体信息导航机制,让智能体沟通更加有效

智尊AI大模型 2024-10-22 22:51:10

“智能体(Agent)无疑是近两年来人工智能领域最火的概念之一,基于大模型的多智能体系统研究更是自 2023 年以来受到了越来越多的关注。诸如 Smallville、ChatDev、AgentVerse、Agent Hospital 等多智能体框架,也成为了 GitHub 上的明星项目。”

对大模型智能体的质疑

科研人员利用大型模型技术,创造出诸如编程专家、医疗顾问、节目主持以及论文评审员等一系列角色化的智能实体,它们能够模拟人类之间的协作模式,为解决复杂挑战及模拟人类社会活动开辟了一条创新的研究路径。

尽管大型多智能体模型的发展势头正猛,但在该领域内,也存在一些反对的声音。有人提出疑问:人类社会是否真的需要多个智能体协同工作?部分研究显示,智能体数量的增加并不总是能提高整体表现。另外一些专家则认为,多智能体的设置更像是大型模型在内部进行不同角色的扮演,本质上还是单一智能体在进行自我对话。

同时,也有科研人员指出,当前的多智能体系统在模拟人类社会行为时,各个智能体似乎在“共用思维”,这种设置与现实世界的状况不符,因此会导致模拟结果产生较大的偏差。

图 | 该团队之前的成果 ChatDev,在 GitHub 上获星 24k+(来源:资料图)

化身智能iAgents平台

他们认为,对多智能体价值的质疑,根源在于未能发掘其独有的应用场景——那些单智能体难以胜任,非得依靠多智能体协同作战的领域。这些场景的核心特征在于异构性,即各智能体能力与所处环境各异,难以整合,唯有通过协作方能攻克难题。这恰恰映射了人类社会合作的真实写照。

用户部署iAgents的过程轻松便捷,且能像使用日常聊天软件那样自然操作。其独特之处在于,用户可随时召唤个人专属的智能体“化身”,与其他用户的智能体化身展开自主沟通与协作。

图 | 旨在探索化身智能的 iAgents 平台(来源:资料图)

研究团队阐述道,化身智能的核心理念是为每个人配备一个专属智能体。这个智能体本身无需存储信息,但需向人类用户索取信息,进而作为人类的代理与其他智能体协同作业。这本质上是将人类间的协作转交给每个人的专属智能体来完成,旨在保障隐私安全的同时,释放生产力,提升协作效率。

此外,化身智能更贴近现实世界的协作场景,是多智能体天然的用武之地。鉴于个体间信息与知识差异,其智能体所处的环境亦不相同,因此必须依赖多智能体协作,以克服信息不对称的挑战。

为此,研究团队提出了一种创新的信息导航机制,这是一种智能体推理新技术,旨在引导智能体间的自主沟通,确保信息交流有效,问题得以解决。

近日,相关研究成果以《信息非对称情境下的协同任务自主代理》为题,发表于arXiv平台,并已获2024年神经信息处理系统大会(NeurIPS)录用。

研究人员期望,化身智能能成为多智能体研究的一个框架,让各行业从业者都能定制自己的智能体化身,并在统一协议下与其他智能体灵活协作。

未来,化身智能或将成为人们手机上的超级应用。例如,当用户想要订餐时,只需对智能体说“我想订餐”,智能体便会结合用户信息(如过往用餐偏好、当天日程、位置)推荐合适的餐馆。智能体还会发送消息进行沟通,而回复的“餐馆方”,实则是餐馆客服的智能体化身,依据客服的信息与专业知识作答。

智能体间通过沟通、协作、谈判后,双方人类可确认并达成最终决策。这极大地提升了协作双方的生产力,订餐者无需逐一确认,餐馆客服也能同时处理更多订单。

化身智能的深远意义在于,实现了以人为本的人工智能。当前,众多研究机构正致力于通用人工智能的研究。然而,当通用人工智能真正来临时,人类是否已做好准备?它是否会取代人类,对社会产生负面影响?

化身智能给出的回答是:将智能体作为行动执行者时,其价值在于提供人类的信息与知识,而非取代人类。要实现化身智能的目标,还需在以下方面取得突破:

其一,实现信息不对称时的有效沟通与有效协作。

智能体在拥有全部信息时,能有效规划、拆解、执行任务。但信息不对称时,则难以完成。因此,智能体需主动请求、更新信息以弥补不对称。这涉及心智理论、检索增强、多智能体协作等关键技术的突破,以实现智能体间的“信息丰富”沟通。

其二,打造具有更好 Agent 能力的小模型。

目前,大模型凭借出色的指令遵循能力,支撑起复杂的Agent应用。而小模型表现不佳。出于隐私保护和使用体验考虑,端侧小模型上部署Agent将成为新趋势。化身智能更需在端侧小模型上部署,以方便用户使用,构建新的人-智能体交互体系。

其三,实现更好的隐私保护。

尽管用户在端侧拥有专属智能体能在很大程度上保护隐私,并有权选择共享给智能体的信息。但智能体间的自主沟通仍存在泄露隐私的风险。若一味追求绝对隐私而不分享信息,则无法合作;若双方完全透明,虽能提升协作效率,但存在隐私泄露风险。因此,隐私保护与有效协作需平衡,这将是后续研究的努力方向。

参考资料:

1.https://arxiv.org/pdf/2406.14928

0 阅读:0

智尊AI大模型

简介:智尊AI大模型社区,懂AI,用AI,造AI,一站式AI学习平台。