DeepSeek点燃AI战火,英特尔以三大优势领航AIPC时代

微型计算机 2025-04-03 12:01:01

过去一段时间,英特尔遭遇了不少麻烦,如今随着新任CEO陈立武(Lip-Bu Tan)的到来,英特尔正重整旗鼓,开启新篇章。2025年3月29日,英特尔隆重推出全新的酷睿Ultra 200HX处理器,该系列处理器不仅具备强大的代际性能提升,能效比更是狂飙40%,能为硬核玩家带来畅快的游戏体验。更为关键的是,酷睿Ultra 200HX处理器首次配备XPU架构,它能让高性能、高吞吐和低功耗的AI负载分别得到恰当的分配,从而催生出全新的AI游戏助手。

在AI游戏助手中,英特尔NPU用于加速游戏场景识别,CPU用于加速音频及实时处理,iGPU则用于加速大模型推理和RAG检索交互。如此一来,伴随酷睿Ultra 200HX处理器而来的AI游戏助手真正能够成为陪你聊天、提供攻略、共度游戏时光的好伙伴。这意味着当大家还在用游戏本部署本地大模型时,英特尔已经通过酷睿Ultra 200HX处理器率先开启全新的AI游戏时代,这将全面重塑我们的游戏体验。

用AI给游戏加了点“黑科技”只是英特尔推动AI PC快速向前发展的一个小缩影,围绕着AI行业、AI PC以及AI软件生态的落地,英特尔在当前的AI发展过程中正扮演着越来越重要的角色。在正式推出酷睿Ultra 200HX处理器的同一天,英特尔还通过一场交流会展示了其在AI PC领域的最新进展。在交流会上,英特尔中国区AI PC产品总监孙峪先生详细介绍了英特尔在AI PC领域的优势和竞争力。

DeepSeek加速AI普惠英特尔提供完整的大模型部署解决方案

如今,AI技术正激励着千行百业不断创新,尤其是火出圈的DeepSeek系列大模型在推动开源和端侧部署方面起到了一呼百应的效果,使大量开发者加入AI的阵营,进一步促进AI在游戏、创作、编程等方方面面的全面应用。

作为当前最受关注的大模型之一,DeepSeek-R1系列大模型凭借其创新的技术正在加速AI普惠化进程。为什么这样讲呢?我们知道DeepSeek-R1模型具备强大的知识储备能力,尤其在文本理解、数学计算、编程辅助和逻辑推理方面表现突出,而且其采用MIT开源协议,支持各类灵活的私有化部署,人人都可部署,这显著降低了使用门槛。另外,DeepSeek-R1大模型采用的MoE(混合专家)技术有效降低了对算力的要求,因此它的API token费用相比OpenAI更低,性价比更高。

另一方面,正是由于DeepSeek-R1模型是开源的,而且能力强大,所以现在各行各业的公司、政务服务系统、科研机构和高校等单位都在加速部署、全面接入DeepSeek-R1大模型。在这样的背景下,英特尔也注意到大量来自政府、企业、学界的客户有对DeepSeek系列大模型做私有化部署的需求。

据孙峪先生介绍,私有化部署通常有三种不同的使用场景。首先是部署671B“满血版”DeepSeek-R1大模型,这里所说的“满血”不仅是指参数的满血,还包含了数据精度的满血,比如用BF16或者FP8来做“满血版”的推理,这能带来原生的高质量的体验;

第二种使用场景指的是私有化部署DeepSeek-R1大模型的“蒸馏”版本,DeepSeek公司通过DeepSeek-R1的输出“蒸馏”出六个小模型,这六个蒸馏模型的参数规模覆盖1.5B到70B,它们同样具备非常强的推理能力;第三种使用场景则是用于微调或者训练DeepSeek系列基础模型,通过蒸馏的方式或者定制化来满足自身的需求。

以上三种不同的使用场景都是来自政府、企业、学界的客户的需求,而针对这些需求,英特尔的优势在于能够提供完整的大模型部署解决方案。孙峪先生以一体机解决方案为例,详细介绍了英特尔在支持客户部署DeepSeek系列大模型过程中的优势。比如一体机解决方案因有着“开箱即用”的特性,因此受到政企客户的青睐。这种集成方案不仅实现了私有化弹性部署,还能与本地企业应用结合,支持RAG应用和企业Agent联动,在实际业务场景中具备独特价值。

除了一体机这样易于部署的解决方案,客户在其他终端上部署DeepSeek大模型的过程中还要考虑很多因素。“DeepSeek大模型的部署不是简单搞一个开源框架,装在一个裸服务器上就可以跑。”孙峪先生在会上表示,“有很多因素要考虑。比如需要考虑数据的精度,即如何在投资间和不同数据精度间找到平衡,这甚至涉及用不同显卡的选择。此外,针对SLA的需求,也就是首字响应时间和平均每秒token速度也会在使用体验上带来影响。其他的包括上下文长度、吞吐能力也是需要考虑的因素。”

在这方面,英特尔Arc系列GPU能够提供灵活的解决方案。其中英特尔Alchemist产品家族(比如A770 16GB、A750 8GB)主要适合单用户/多用户进行32B /70B大模型的部署;英特尔Battlemage产品家族(比如B580 12GB、B570 10GB)主要针对7B/14B大模型进行优化,能够提供更加亲民的部署选择。

除了一体机、英特尔Arc显卡,作为AI PC概念的重要推动者,英特尔在AI PC端侧则通过酷睿Ultra系列处理器中的XPU架构驱动,帮助用户在本地轻松部署DeepSeek-R1系列大模型。英特尔在交流会现场通过搭载酷睿Ultra 200H处理器的轻薄本演示了在本地部署DeepSeek-R1-Distill-Qwen-14B大模型的表现。

从现场演示来看,英特尔酷睿Ultra 200H轻薄本在本地运行14B大模型时,表现出色,它不仅能够快速生成俄罗斯方块游戏的代码,还能通过交互式提示生成俄罗斯方块游戏的进阶版本,比如为游戏增加随机方块等复杂功能。

此外,英特尔在现场还演示了在轻薄本上部署DeepSeek-R1-Distill-Qwen-32B大模型的表现。用于演示的轻薄本搭载酷睿Ultra 200H处理器,内存为64GB。从现场的演示来看,英特尔轻薄本能够流畅地运行DeepSeek-R1-Distill-Qwen-32B大模型,它的对话token速度达到14 tokens/s,能够流畅运行日常对话和代码生成任务。

英特尔甚至在现场用演示的轻薄本直接通过DeepSeek-R1-Distill-Qwen-32B大模型生成了打砖块和五子棋游戏。从现场演示来看,DeepSeek-R1-Distill-Qwen-32B大模型具有极高的可用性,而且部署在英特尔轻薄本上的生成速度也非常快。

可以看到,随着DeepSeek-R1系列大模型的火爆,从AI PC到Arc显卡再到一体机解决方案,英特尔在硬件层面都能够为大模型时代带来强大的AI算力支撑,帮助用户和客户在第一时间部署和使用流行的大模型,这是英特尔于AI时代的优势之一。

AI软件框架和生态英特尔提供全方位支持

成熟的软件生态不仅能够进一步推动AI PC的发展,对个人用户和开发者来讲,也能降低AI工具和应用的使用门槛。在这方面,英特尔具备相当突出的优势,它提供了全方位的软件工具链支持,能够显著降低开发者和ISV的应用开发门槛。

比如随着DeepSeek系列大模型的火爆,现在有越来越多的用户希望在AI PC本地部署使用,然而在PC本地部署大模型所用到的软件框架和工具非常多,市面上出名的有Ollama、LM Studio、Open WebUI等,对个人开发者来说,到底应该使用哪个框架才能发挥出英特尔硬件的最优性能呢?

这其实主要涉及大模型部署的软件优化问题。随着DeepSeek系列大模型的火爆,英特尔在第一时间快速响应,推出了基于英特尔IPEX-LLM和Ollama的整合包,通过这个优化的整合包,大家可以在英特尔笔记本上轻松部署目前流行的大模型。更重要的是,这个整合包的体积只有约200MB,大家可以在Github和魔搭社区下载,如果在魔搭社区下载安装和部署,后续下载所需的大模型文件时还不会遇到网络问题,这非常贴心。

针对ISV更复杂的需求,英特尔与神州数码合作开发的“爱问学”端侧AI应用开发框架则能提供更全面的解决方案。神舟数码AI生态总监莫晶晶女士在现场介绍了该框架的核心优势。“爱问学”端侧AI应用开发框架能够使开发者无需关注底层硬件迭代,它还整合了包括Ollama、HuggingFace和ModelScope在内的模型资源,使开发者可以快速下载更新大模型;同时它还拥有应用瘦身能力,能帮助生成更轻量的最终用户安装包。总的来说,“爱问学”端侧AI应用开发框架能够帮助个人用户或者ISV用户在英特尔平台快速部署本地大模型,让每个人都能轻松获得大模型的智能体验。

AI PC应用落地英特尔持续与合作伙伴推陈出新

在ISV合作伙伴方面,英特尔“朋友圈”中的好友一直很多。早在2024年,英特尔就携手生态伙伴展示了AI PC在知识助手、办公助手、娱乐助手、创作助手以及垂类助手领域的实际落地情况。在本次交流会上,英特尔通过五个不同的AI应用再次向我们展示了AI PC在不同领域的实际价值。

首先是英特尔联合扣子推出的一系列AI功能体验。在这个过程中,英特尔平台利用扣子本身开放端插件的能力把AI PC本地的一些功能,比如PC操控、RAG以及PC语音等融入扣子Agent flow开发流程中,为用户提供全新的端云结合的新体验。英特尔在现场主要展示了其中的AI PC会议助手功能。

在这个功能中,它不仅支持本地语音转写、截图自动向量化存储、智能生成会议纪要等功能,还支持“图片入库”功能,该功能可以将重要的会议截图自动存入向量数据库,以便在之后整理会议内容时搜索到图片上的内容。

在英特尔与神州数码合作开发的《爱问学》软件中,用户可以轻松一键部署热门大模型。在现场演示中,英特尔轻薄本通过《爱问学》成功运行14B大模型,并从云南野生菌文档中提取信息为用户推荐了合适的食用菌种类。

面壁智能开发的迷你CPMV2-6是一个8B的视觉大模型,可以对图像和视频做理解和分析。在现场演示中,向系统导入一个大熊猫拿起旁边竹篮的视频之后,系统能够准确总结出视频的主要内容。

爱奇艺智能助手也是一个很有意思的应用,它不仅了解用户的观影偏好,还能获取最新影片的信息,有了它的加持,能为用户带来更好的观影体验。在现场演示中,爱奇艺智能助手不仅能够成功推荐用户喜爱的影片,还能回答类似“男女主角最后在一起了吗?”这样的剧情问题。

亦心科技压轴演示的“AI闪绘”功能则展示了AI PC在AIGC领域的强大实力。基于英特尔酷睿Ultra处理器带来的强大AI算力,亦心科技的“AI闪绘”功能能够在断网环境,准实时生成绘画,而且用户只需要粗略画出大概,该软件就能生成逼真的图像,哪怕是新手小白,也能借助它画出好作品。

总结

可以看到,英特尔在AI PC时代具备强大的优势和竞争力。在硬件端,英特尔酷睿Ultra系列处理器、至强处理器以及Arc显卡都能提供强大的AI算力,帮助用户打造底层算力基础,为AI应用夯实基础;在AI软件框架端,英特尔能够提供全方位支持,无论是OpenVINO还是IPEX-LLM,英特尔总会在第一时间打造出好用、高效的AI PC软件工具链,降低开发者和用户的使用门槛。

在生态端,英特尔则在持续打造开放、共赢的软件生态,推动AI PC领域的ISV合作,目前英特尔全球合作的ISV数量已经超过200家,中国本土超过40家,已经有超过500个不同的模型加入了对英特尔平台的支持。此外,英特尔还将继续通过人工智能创新应用大赛等形式激励更多开发者参与,共同为AI PC的发展添砖加瓦。相信在英特尔的带领下,AI PC行业将会迎来更加蓬勃的发展,AI PC也将在更多领域展现出其独特的价值和魅力,为用户带来更智能、更便捷的使用体验。

0 阅读:8

微型计算机

简介:以“MC评测室”为基础提供各种科技和IT产品评测资讯