作者 | 华卫 采访嘉宾｜刘升平，云知声 AI Labs 研发副总裁 当下极为火爆的大模型，在医疗赛道同样炙手可热。谷歌刚刚发布了准确率达 91.1%、性能远超 GPT-4 系列的多模态医学大模型 Med-Gemini，国内市场亦很热闹。自 2023 年以来，百度、腾讯、京东等诸多大厂都相继加码医疗大模型领域，与医疗相关的大模型产品和应用如雨后春笋般正不断涌现出来，其中更不乏 AI 和医疗企业的手笔。 目前，已有部分医疗大模型产品投入到导诊、预问诊等医院场景中。然而，医疗大模型虽有一定潜力，但现阶段仍有不少要跨越的落地门槛。 为此，InfoQ 对云知声 AI Labs 研发副总裁刘升平进行了专访，听他聊一聊现阶段医疗大模型的商业化能力，以及面向这类应用场景的行业大模型该如何定制优化。在即将召开的AICon 全球人工智能开发与应用大会 暨 大模型应用生态展上，InfoQ 也邀请到了刘升平老师来做演讲分享，他将进一步分享医疗大模型的构建方法和应用落地经验。 以下为访谈实录，经编辑。 医疗大模型距离商业化有多远？InfoQ：现阶段，医疗大模型要规模化落地还面临哪些现实问题？ 刘升平：主要的问题还是有不少，首先是医生和患者的接受度，特别是有些场景要改变医生的使用习惯。还有一个问题是大模型的部署成本，如果在院里大规模并发使用医疗大模型，硬件成本会比较高。 InfoQ：“幻觉”的偶发出现是大模型目前公认的一个问题，医疗场景对准确度要求会更高，山海在这方面是怎么做的？ 刘升平：“幻觉”的确是核心要解决的问题，我们采用多种手段从多方面降低幻觉，包括保证医疗预训练语料和微调数据的质量和多样性、采用能降低知识幻觉的解码策略、融合医疗知识图谱的知识增强大模型技术、医疗知识检索增强、大模型结果后校验、大模型输出置信度评估等。 InfoQ：您认为哪一个评价标准最能代表医疗大模型的水平？ 刘升平：临床有效性是最能代表医疗大模型水平的关键评价标准，包括模型在实际临床环境中的诊断准确性、治疗建议的合理性以及与专业医生的决策一致性。此外，模型的鲁棒性、泛化能力、可解释性、用户友好性、数据隐私保护以及合规性也是重要的评价维度。然而，临床有效性直接关系到患者的安全和健康，因此如果把医疗大模型应用与临床实践中，它可能是最重要的评价标准。 InfoQ：现在行业内有您认为还不错的其他医疗大模型产品吗？国内外均可。 刘升平：除了云知声的山海大模型医疗版，最近看到的是谷歌的多模态医疗大模型 Med-Gemini，在多项临床任务评测中都表现很好，但还没有在医院得到广泛使用。 InfoQ：在医疗大模型的技术实现、应用效果以及成本部署上，国内与国外有区别吗？ 刘升平：没有显著区别。 InfoQ：您认为医疗大模型真正迎来商业化时代还需要多久？ 刘升平：预计 2-5 年吧。今年是医疗大模型的应用元年，有部分医院开始尝试一些医疗大模型的应用，随着这些医院推广与积累医疗大模型应用经验，预计医疗大模型会在 2-5 年内进入更广泛的商业化阶段。 InfoQ：社会接受度上，如何让大众认可大模型的诊断或治疗方案？ 刘升平：要让大众接受并信任大模型的诊断或治疗方案，是一个长期的过程，要考虑很多方面。第一，要提高模型的决策过程透明度，提供可解释的输出，让用户理解模型是如何得出结论的。这有助于建立用户信任，尤其是对于医疗决策这样敏感的问题。第二，要有严格的临床试验，证明模型的诊断或治疗方案与专业医生的判断相当或更优，且这些结果应由独立的第三方机构审核并公开。第三，要让医生参与到模型的开发和应用中，他们可以提供专业知识，确保模型的输出符合医学实践，并在实际应用中监督和调整。第四，要开展公众教育活动，解释人工智能在医疗领域的潜力和限制，消除误解，提高公众的理解和接受度。 通过这些措施，应该可以逐步提高社会对大模型在医疗领域应用的接受度和信任度。 山海大模型的实践经验InfoQ：医疗相比其他场景更复杂且严谨，难度自然也不小，驱动云知声选择在这一领域开发大模型的最重要因素是什么？ 刘升平：云知声选择在医疗领域开发大模型，主要有两个关键因素。一是应用潜力，而医疗领域是一个富文本、富知识的行业，并且医疗大模型在处理医疗病历文书、辅助诊断、药物研发等方面展现出巨大潜力，因为医疗领域是一个很适合大语言模型技术的应用领域。此外，医疗 AI 市场具有巨大的商业价值，随着技术的成熟和接受度的提高，未来有望形成规模化的商业模式。二是专业积累，云知声深耕医疗领域多年，对医疗业务场景有深入的理解，在医疗数据和医疗 AI 技术有深厚的积累，也积累了数百家的医疗客户，这有助于医疗大模型的研发和商业化推广应用。 InfoQ：大模型训练过程本身就对数据质量有较高要求，医疗领域的数据则更为特殊，还具有隐私保护、专业知识复杂、经验化知识难以结构化等难题，山海是如何克服的？ 刘升平：山海医疗大模型在训练过程中面临数据质量、隐私保护和专业知识复杂性等挑战，我们采取了两种策略来克服这些问题。一是数据清洗与预处理，对收集到的医疗数据进行严格的清洗，去除噪声和不一致的信息，确保数据的准确性和一致性；同时使用专业的医疗知识进行预处理，如标准化术语等。二是匿名化与脱敏，在遵守相关法规的前提下，对个人健康信息进行匿名化和脱敏处理，以保护患者隐私。 InfoQ：使用开源数据集可能出现产品同质化现象，山海在数据资源方面是如何使用的？ 刘升平：云知声在开发山海医疗大模型时，采取了多种策略来避免产品同质化，确保模型的竞争力。第一，我们使用了不少专有数据集，即云知声多年的医疗业务积累的大量内部医疗数据。这些专有数据可以提高大模型在特定场景的应用效果。第二， 我们采用了一些数据增强技术来自动生成训练数据，例如，通过数据合成、噪声注入、标签变换等技术，增加数据的多样性和复杂性，使模型在不同条件下表现更为全面和鲁棒。第三，我们还与医疗专家合作来确保医疗数据的准确性和专业性，同时利用专家的知识来指导数据的预处理和标注。通过这些策略，云知声的山海医疗大模型能够与只使用开源数据集训练的大模型有显著区别，并且在面向具体的医疗场景应用时有更好的效果。 InfoQ：云知声的山海医疗大模型主要做了哪些场景？目前哪个场景的应用率最高？哪个场景能算作山海的“杀手锏”？ 刘升平：对于云知声的山海医疗大模型，主要做了以下场景： 病历生成：包括基于医患对话的门诊病历和出院小结、手术记录生成等住院病历的生成，以及放射科报告生成等医技科报告。病历质控：对住院病历（包括病案首页）做过程和终末质控，支持 1000+形式和内涵质控点，大幅提高病历的质量。单病种上报：对国家卫健委要求的 57 个病种做自动数据汇集及上报。医保控费：按照医保局的规范，监管医院的临床诊疗行为和收费合理性，确保医疗费用的合规。保险理赔的医疗审核：审核在保险理赔中涉及到的医疗费用，剔除不合理费用。专病库平台：将病历等临床数据自动抽取和导入到专病库。智能问诊：作为 AI 医生，与患者进行对话，收集症状，并提供初步的健康咨询和建议。目前，山海应用率最高的场景是病历生成、病历质控和保险理赔的医疗审核。结合云知声在语音技术上强项开发出的门诊病历生成系统，结合云知声在医疗知识图谱的积累开发的病历质控系统和保险理赔医疗审核系统均可以视为“杀手锏”场景。 InfoQ：针对于山海医疗大模型，您更推荐医疗机构采用哪种部署方式落地？具体是如何考虑的？ 刘升平：云知声的山海医疗大模型在医疗机构的部署通常有以下两种方式：云端部署和私有化部署。至于选择哪种部署方式，主要考虑几个因素吧。一是如果医疗机构对数据安全有极高要求，那就倾向于私有化部署。二是考虑成本与资源，云端部署通常成本较低；私有化部署初期投入大，但长期运营成本可能更低。 InfoQ：现在市面上的医疗大模型不少，国内有许多大厂也在做，山海的独特之处是什么？ 刘升平：这和云知声做医疗大模型的动机是一样的，山海医疗大模型的独特之处主要有两点。 一是在专业领域深度方面，云知声专注于医疗领域，有深厚的数据、知识、场景和客户积累，这使得山海医疗大模型在效果上业内领先，目前在医疗大模型综合评测 PromptCBLUE 和 MedBench 上都是排名第一。二是在技术融合方面，结合云知声在语音识别和医疗知识图谱技术的专长，山海医疗大模型在语音交互式医疗应用上具有优势，且在临床应用上的医疗知识幻觉也大为减少。 InfoQ：在即将到来的 AI con 上，您准备向听众分享哪些方面的内容？ 刘升平：主要是分享医疗大模型是怎么用的，是如何做的。我还会以医疗领域为案例，介绍面向应用场景的通用大模型定制优化方法论，相信这对于大模型的行业应用开发有一定的借鉴意义。 嘉宾介绍： 刘升平，云知声 AI Labs 研发副总裁，北京大学数学学院博士毕业，是前 IBM 中国研究院资深研究员，中文信息学会语言与知识计算专委会委员。曾在语义网，机器学习、信息检索，医学信息学，自然语言处理等领域发表过数十篇学术论文和国际国内发明专利。在 IBM 中国研究院信息与知识组工作期间，刘博士主要负责语义技术及其应用的研发，曾多次获得过 IBM 研究成就奖。 2012 年底，刘博士加入云知声 AI Labs，领导认知智能团队，负责大语言模型、知识图谱和智慧医疗等方面的研发及管理工作。在云知声期间，主持研发了山海大模型，获得国内外 AI 评测冠亚军 13 个，获得北京市科技进步奖一等奖一项。 原文链接：巨头们涌入的医疗大模型，何时迎来最好的商业时代？_生成式 AI_华卫_InfoQ精选文章