大模型的场景化应用已迈出一小步。
文丨海克财经 范东成
红遍全球网络1年后,本就大热的大模型产品ChatGPT,近日因推出机构OpenAI董事会突然罢免CEO而再增关注度。
在中文领域,ChatGPT的曝光量一度淹没在了国产大模型百舸争流的浪潮之中,百度、阿里、腾讯、华为、科大讯飞等玩家均在这一领域持续发力:百度的文心一言已迭代至4.0版本,并已于2023年11月初上线了会员服务;阿里发布了千亿级参数的通义千问2.0;科大讯飞的星火认知大模型已迭代至V3.0版本;腾讯则在最新财报中披露,混元大模型促进广告收入增至257.2亿元,同比增长20%。
大模型的发展背后是AI市场的火热。据咨询公司弗若斯特沙利文发布的《AI大模型市场研究报告(2023)》,2022年中国人工智能行业市场规模3716亿元,2023年将达5323亿元,2027年可达15372亿元;AI有望在下游制造、交通、金融、医疗等多领域不断渗透,实现大规模落地应用。
高光之下,AI和大模型均不可避免地要回归到落地命题上来。
如今在这一方向上,已有玩家展现出了新的可能性。与1688、闲鱼、夸克一起,日前同时入列阿里集团第一批战略级创新业务的钉钉,就此发起的动作即颇值得业界投以目光。
阿里财报显示,截至2023年9月30日,钉钉的17条产品线已全面接入大模型;而且钉钉还面向客户及生态伙伴开放了智能化底座AI PaaS,帮助大家以智能化重塑产品。
经由与艾为电子、铁骑力士等不同行业的企业合作,钉钉开始展现大模型务实的一面。
01直击用户痛点早在2023年4月,钉钉就宣布接入通义大模型,并现场演示了聊天、文档、音视频会议等协同办公高频场景下的AI智能化应用。用钉钉CEO叶军的话来说,就是要用大模型把钉钉重做一遍。到了11月,钉钉AI魔法棒正式上线,接入大模型的聊天、文档、知识库、脑图等17项产品全面开放测试,已有超过50万家企业启用。
调研机构QuestMobile数据显示,钉钉2023年第三季度平均MAU(月活跃用户数)为1.96亿,在协同办公领域排行第一。这既意味着钉钉能在相关领域积累更多数据,也代表着它可以将大模型落地方面的探索惠及更多行业和企业。
艾为电子便是典型案例。
成立于2008年的艾为电子,专注于数模混合、模拟、射频等集成电路设计,以芯片为主要产品,2020年,艾为电子被认定为专精特新“小巨人”企业。2021年,艾为电子获得了上海市的质量金奖,并在上交所科创板成功上市。
作为高新技术企业,艾为电子一直注重数字化建设。自2022年起,艾为电子便启用钉钉作为数字化转型底座。2023年6月,钉钉与艾为电子签订了战略合作协议,共同推动芯片行业数字化平台建设,并基于生成式AI能力的进展开启共创,以探索智能化方案在芯片行业的实践。
芯片行业产品种类多、参数复杂、专业性强,需要服务的客户数量又颇具量级,客服是行业内的重要问题。
以德州仪器即TI为例,这家总部位于美国德克萨斯州的跨国半导体公司有着近10万款产品,产品应用于工业、汽车、通信设备等多个领域,客户多达10万家。在大模型技术还未出现前,德州仪器已经开始与亚马逊合作研究智能客服。
艾为电子也敏锐地意识到了客服智能化趋势。该公司有42款子类产品,近1000款自主知识产权芯片,传统客服的关键词匹配模式需要大量标记,客服维护成本居高不下。大模型在进行相应训练后则能够自己学习和推理,输入新文本时不需要重新逐个标记。
据海克财经了解,传统客服标记关键词匹配模式,回复往往生硬、死板,难以推断、转换语意或根据上下文进行理解;大模型则不但能够根据语意理解进行拟人式回复,还具备结合上下文进行多轮对话的能力。
大模型击中了芯片行业的痛点,这也是艾为电子选择与钉钉合作共创的关键。
02激发业务动能在11月10日结束的2023年世界互联网大会乌镇峰会上,艾为电子CIO陆轶分享了钉钉与艾为电子共创大模型落地场景的实际案例。
陆轶表示,艾为电子在追赶世界领先的国际芯片大厂时需要这样的新技术。
3个月前,钉钉宣布将智能化底座AI PaaS开放给生态,现在AI PaaS已正式上线。
据海克财经了解,AI PaaS包含模型调度平台、模型训练平台、插件开发平台,能够帮助开发者构建从理解用户意图到连接钉钉场域并调度插件执行的全部链路;模型训练平台可以让企业的专有数据更安全地进入AI PaaS;基于AI PaaS,企业可以快速搭建起专属“数字员工”和智能化应用。
钉钉与艾为电子共同打造的智能客服艾为专属模型就是如此。基于艾为电子的产品知识库,智能客服有向量、切片、召回等能力,能够理解专业名词,还能进行表格处理。
想要充分利用大模型优势,训练大模型吃透这些知识并非易事。
艾为电子的产品手册多为英文,有些专属词汇不仅需要中英文转译,甚至需要“三译”——除了语言之外,某个词汇在不同场景、行业中表达的意思都会不同。而且,芯片行业的产品手册与一般通用性的产品手册也不一样。其中不止有专业名词,还有大量芯片的设计图纸、参数的对比等。
正因为是深度共创,钉钉和艾为电子相互碰撞、反复打磨,大模型才能将这些内容融会贯通。
比如艾为电子产品中的一个电压属性有最小值、最大值、典型值,在常温状态、高温状态等不同场景下,这些值的要求不同。当客户提问时,大多不会直接提问值是多少,而可能问“3V场景是不是能支持”。大模型需要先理解客户问的是什么场景下的参数,再推理参数是否符合产品的参数范围。传统客服难以通过标记来穷举,智能客服却能根据用户问题给予准确回答。
在产品对比上,智能客服的优势更加明显。大模型能够通过对近1000份文件的理解,从相关文件中抽取参数或其他要素制成表格,并将对比结果直接展示给客户。
在应用大模型之前,艾为电子有几百个FAQ,即常见问题解答。传统FAQ需要搜索匹配,如果用户提问与FAQ预设问题不一致,就很难检索得到。比如数字比较,“大于”和“不小于”含义相近,但必须用两个FAQ来解决。有了智能客服后,大模型能够理解用户提问的含义并给出对应FAQ,这也能使现有内容资产得到更充分的利用。
智能客服带来的24小时即时准确回应,自然而然能够提升用户满意度——要知道,芯片行业的这种服务并非通用型客户服务,满意度的提升对业务有着更为实际的推动作用。
03深广空间打开嵌入具体行业的生产环节,是钉钉与大模型产生化学反应后迈出的一小步。
智能客服高效准确回应技术问题,本可解放艾为电子原先需要投入服务的一线技术人员。任何人都不可能将上千款产品的所有参数、内容、技术倒背如流,一线人员原本需要投入大量时间和精力来应对,但现在他们能够将这些时间和精力留给现场更高难度的问题。这正是钉钉在降本增效上带来的独特价值。
艾为电子的智能客服最后仍有转人工的托底方案。因为公司本身以钉钉为底座,全员均用钉钉,人工和AI客服能够实现用户界面的统一。
深度合作让双方都收获颇多。
陆轶在乌镇峰会发言时表示,共创探索的初步成功,为艾为电子在深入数字化转型中使用AI赋能业务提供了很好的基础和支撑;智能客服只是探索AI创新的一个起点,未来规划中还会有更多仰望星空的思考,在更广泛的数据资产上也会有更多应用场景。
此前艾为电子选择钉钉作为企业协同管理工具,就不仅仅是把它当做单一一款管理软件,而是把它视为数字化生产力平台。在2022年12月钉钉7.0发布会上,艾为电子CEO娄声波表示,企业上游连接晶圆制造、封装测试等供应商伙伴,下游连接渠道及手机、汽车、IoT、工业等客户厂商,艾为希望在芯片进入每一个终端设备的过程中,实现与上下游全链路产业数字化协同,这也需要钉钉的助力。
当然,企业数字化和大模型落地都非一朝一夕之功。钉钉先行先试,为行业迈出了初探的脚步。
调研机构艾媒咨询发布的《2023年中国协同办公行业及标杆案例研究报告》显示,数据安全以及智能协作是中国协同办公用户最期待能提升的部分,两者分别占比69.5%和61.1%;办公场景凭借着适配大语言模型能力强、覆盖用户数量多、用户付费率高等特点,成为AI大模型率先落地的场景之一,进一步推动了协同办公市场的发展。
基于用户规模和技术优势,钉钉仍在着力拓展。艾为电子不是孤例,钉钉还与1号直聘、有成CRM、易鲸云、i人事、酷学院、经营大脑WinPlan等多家生态伙伴,共同探索了“数字员工”和智能化应用。
与钉钉的有机结合,也让AI发展有了新的范例——大模型不再只是高高在上拼技术,而可在深入产业的过程中切实为企业解决难题,同时为之推开更广阔市场空间。