AIPC元年真要来:AI笔电、AIPC是什么?目前有哪些产品、现在值得买吗?

科智时势 2023-12-28 15:06:17

先前在 Intel Innovation 2023 的时候,Intel CEO 已经预告了AI PC 产品,而随着 Core Ultra 处理器正式发布后,各家笔电品牌也发布了 AI Ready 笔电的产品,宣告 AI PC 的时代要来临。 甚至业界也盛传2024年将会是AI PC元年,那么,AI PC到底是什么? 现在产品真的成熟了吗?

AI PC 是什么?

其实不只有Intel一家提到AIPC,像是先前AMD、高通也都有提供相关的概念以及产品。

目前并没有对 AI PC 严格的定义,主要指的是具备可以执行生成式 AI 功能的电脑,都可以叫做 AI PC。 不过,目前我们在电脑上使用 ChatGPT 来生成文字、或是利用 Midjourney 来文生图,都还是要透过云端来透过大语言模型运算生成我们要的结果,但是 AI PC 的概念是,不要透过云端,可以在本地端运行语言模型得到结果。

在这个概念下,就是用户的终端装置需要有能够运行语言模型的硬件能力才行。 事实上,像是先前 Pixel 手机可以在拍照时利用算法的方式,来提高拍照的品质,也可以称得上是 AI 手机」。

不过,AI PC目前的定义其实并不算明确,要在PC、笔电上可以独立执行到什么程度的模型,并没有一个规范,因此最后又回到硬件本身,看Intel、AMD、高通或是英伟达这些硬件厂商,本身的硬件可以执行哪些功能而定。

那么,要怎么看这台电脑支持哪些 AI 功能? 主要需要看硬件上 NPC 的规格。

只有 AI PC、AI 笔电才能跑 AI 模型吗?

不是。

就像你现在就可以用自己的电脑,买一张好一点的显卡,去安装 stable diffusion来跑文生图。 甚至不买显卡可能也可以用内建显卡来跑,差别就是在于速度、以及跑出来的图片的精致度。

同样的道理,其实就算没有加入NPU的PC,只要符合规格,一样可以跑AI模型,问题就差在于速度以及功耗。

什么是 NPU?

过去,我们看电脑、手机的功能是否强大,主要是要看CPU处理器的能力。 之后因为开始有了电玩游戏的需求,因此又要看 GPU 图形处理器跑不跑得动游戏,是否支持游戏的某些特效功能。

同样的道理,现在来到了 AI 的时代,又有一个新的名词叫做 NPU(Neural network Processing Unit)神经网络处理单元,也就是可以支持 AI 模型的单元,让手机或是电脑可以实现更强大的 AI 运算能力。

目前有哪些支持NPU的笔电平台?

Snapdragon X Elite

专为 AI 打造的Snapdragon X Elite,整合了全新定制的高通 Oryon CPU、Adrendo GPU 以及独立的 NPU 神经处理器单元。 采用4纳米制程,CPU部分采用12核心配置,最高时钟为3.8GHz,GPU部分,搭载的Adrendo GPU提供4.6FLOPS运算效能,支持DirectX 12 API以及4K 60p 10bit的H.264/HEVC(H.265)/AV1屏幕编码。

至于针对未来需求增加的AI运算需求部分,透过Qualcomm Hexagon NPU,最高可提供45 TOP(每秒兆次运算)算力,支持在终端侧运行超过130亿参数的生成式AI模型,处理速度是竞品的4.5倍,面向70亿参数大模型时每秒可生成30个token。 据高通表示,这款移动计算 CPU 的性能是竞品的两倍,在达到相同峰值性能时,功耗仅为竞品的三分之一。

高通预计搭载Snapdragon X Elite芯片的笔电将在2024年中期上市,首发厂商包括微软、联想、戴尔和惠普。 高通也承认,Elite系列只是该公司计划在未来几年发布的诸多版本之一,从而以不同的价位冲击不同的PC细分市场,以便更好地与英特尔和AMD竞争。 此外,高通也表示,Oryon不仅仅适用于Windows笔电,还将「在未来进入智能手机、汽车、XR 设备等领域」。

AMD Ryzen 7000 系列

AMD 2023年初发布的Ryzen 7040系列处理器,第一次为x86处理器加入了独立的NPU AI引擎硬件单元,AMD提出了AMD Ryzen AI引擎技术,可让用户在AIPC上更易于使用个人运算的强大功能,为工作、共同作业和创新开启全新等级的效率,使您能与周围的世界保持更紧密的链接。

目前AMD Ryzen 7040 系列处理器以及下一代Ryzen 8040系列的处理器均支持AMD Ryzen AI 引擎技术。

AMD Ryzen AI引擎基于全新设计的XDNA架构,可以脱离网络和云端,在本地执行AI工作负载,进而降低延迟、保护隐私。

当然,它也可以在端-云混合场景中运行,在云服务器和本地笔电之间分配任务、协同加速。

虽然这类 AI 加速器的规模比较小,效能表现仍受到一定限制,但它们设计的概念为在长时间进行小量体AI运算,在消耗少量电力的情况下,提供持续性的AI功能。 举例来说,在进行视讯会议的过程中,系统可以透过AI方式分辨使用者的影像范围,并进行精准的背景虚化,降低头发或手部被错误判定而模糊或消失的状况。

目前,基于Ryzen7040系列处理器的笔电产品已经有几十款,出货量数百万台,涵盖宏碁、华硕、戴尔、联想、惠普、雷蛇、小米等各大合作品牌。

Ryzen AI的应用也不断拓展,合作伙伴包括Adobe、微软、Avid、Bori SFX、OBS Studio、Topaz Labs、Zoom、Cyberlink、XSplit VCam、Luminar、Audacity、Arkrunr、Blackmagic Design、Capcut,以及中国的字节跳动、爱奇艺,等等。

Ryzen AI驱动的加速功能目前也已有100多个,尤其是在Adobe Photoshop、Premiere Pro、After Effect、Lightroom等创意设计软件中,大量的日常操作都可以从中获得极大的效率提升。

Intel Core Ultra系列

再来就是最新的,英特尔代号为「Meteor Lake」的Core Ultra移动PC处理器。 不只内建CPU、GPU,还整合了一个可用于推论加速的AI引擎NPU,来提高这款处理器对于生成式AI的处理能力,这也是为英特尔首款整合NPU的产品。

在最新推出的Core Ultra系列笔电处理器,同样是采用混合大小核心设计,提供最高16核心,包括6个效能P核心、8个效率E核心,以及2个超低功耗E核心,最高22条执行绪。 透过新一代Thread Director技术,可以更精准地分配运算任务给不同型态的核心,以达到更高的系统效能与电池续航力。

在时脉方面,最高可达5.1 GHz,并内建Intel Arc GPU,最高搭配8个Xe显示核心与XeSS超采样技术,兼容微软DirectX 12 Ultimate,在数据处理和图形转换效能有显著提升。 同时通过结合专用NPU元件,可整合CPU和GPU的运算效能,大幅推升设备端的人工智能运算效能,使电池续航力提高2.5倍。 也可搭配 OpenVINO、ONNX 等工具,加速构建各类人工智能模型与应用服务。

先前英特尔在9月底介绍这款处理器曾提到过一个概念,就是表示一款AI加持的处理器,不只是需要整合AI加速的NPU来提高生成式AI处理能力,还需要结合模块化、多晶砖设计等,提升其性能和降低功耗。

随着Intel Core Ultra处理器正式推出,搭载最新处理器的AI笔电也陆续推出,包括Acer Swift Go(SFG14-72)、Asus Zenbook 14 OLED (UX3405)、Dell Inspiron 13 5330、 Gigabyte AORUS 17 (2024)、Lenovo IdeaPad Pro 5 14IMH9、Lenovo Yoga 9 2-in-1 14IMH9、LG LG gram16 (16Z90S)、MSI Prestige 16 AI Evo B1MG、MSI Prestige 13 AI Evo A1MG... 等,将推出230款产品,并预期在2028年时,AI PC将会占据80%的PC市场。

Windows 11 的 AI 功能的支持

虽然说大多数人对于AI应用的想象不一样,也不确定会需要用到什么与AI相关的功能,但是,有一个例外,那就是Windows与AI应用的相关功能。

毕竟微软算是最积极拥抱AI的厂商之一,而Windows也是最多人用的操作系统,因此是否支持Windows的AI功能,或许会是一个需要考量的重点。

无论是AMD或是Intel,其实都有跟微软进行合作,支持Windows还在发展中的AI创新功能。 像是Ryzen AI在Win11升级之后就可以支持后者的AI创新,比如Windows Studio Effects,该模组可以加速这个应用中的自动取景、背景模糊等功能。

除了AMD之外,Intel的处理器也会增强AI支持,代号Meteor Lake的14代Core中也会有专门的AI加速功能,直接内建VPU单元以加速AI应用。

但是,这就回到了一个更基本的问题:这些Windows 11(或是Windows 12)的AI功能真的值得你升级吗?

以目前看到的资料来说,像是微软主打的copilot,其实背后是用到Chatgpt的服务,基本上这跟你有没有NPU无关,用了NPU也不会跑得比较快。

而现在能支持的AI创新功能,就只是一些不同应用加入的一些AI工具罢了,比如前面说的「Windows Studio Effects」,这是给Windows相机用的模块,有了AI支持可以加速这个应用程序中的自动取景、背景模糊等功能。 其实不是什么很吸引人的AI功能。

因此,以目前Windows需要用到NPU加速的AI功能来说,微软这边还没有亮出一个很重要、让用户觉得不得不升级的杀手级应用程序出来。

现在AI PC、AI笔电、AI手机的产品真的成熟了吗?

虽然现在有厂商跟业者喊出2024年将会是「AI PC元年」,那么,AI PC产品真的成熟了吗?

其实这个问题,可能要打一个问号。

业者喊出这个口号,主要的原因不外乎是过去一年以来,PC的销售量已经持续低迷的太久,亟需一个明星产品来拉抬整个产业。 而AI也的确是一个重量级的议题,足以承担这个重任。

但是,现在的问题是,AI PC、AI 笔电能做什么? 这个目的还含糊不清。

你跟一百个人提到「AI PC」这个名词,可能有一百种不同的想像。 有些人买来可能觉得可以在上面立刻可以不需要上云端、在本机AI生成图片; 有些人可能想的是在上面跑类似Chatgpt的文字生成服务,甚至建立自己的Chatgp; 或是有些人想要拿来训练自己的AI模型。

甚至。 有些人想的只是想要直接能用Chatgpt、或是使用Windows 11的 copilot。 但是事实上,这两个服务你根本不需要买什么AI PC就可以用。

以AMD以及intel来说,目前两家厂商在谈到自家的AI引擎,都是以「进行式」在谈的,他们同时与不同的厂商以及开发者合作,让自家的AI技术可以支持更多的AI服务以及应用,再透过合作的方式,来修正自家的AI引擎。

其实先前AMD的财务长在巴克莱全球科技会议(Barclay's Global Technology Conference)就分析过,虽然AI PC的终极目的是让的许多AI任务可以在装置端执行、不用上云端。 但是她认为真正可以成熟的时间点,应该不是在2024年,而是要到2025年。

目前看来似乎也是,如果你是一个比较资深的、进阶级的AI用户,你可能会比较清楚购买一台AI PC、AI笔电能够带给你什么样的帮助,那么你应该会想要很快入手一台。 但相对来说,如果你现在不清楚AI PC、笔电能带给你什么帮助,那么入手一台产品,则也不会因此就帮助你的AI技能加分。

毕竟,买NPU跟GPU不一样,你买了显卡你可以期待为你在玩游戏的时候提升一定的效能,但是有了NPU并不会让你在跑Chatgpt或 copilot时回答快一倍、或是Midjourney出图出更多。 (但的确可能可以让stable diffusion跑更快)因此,如果你是一般的「AI小白」,平常对AI的应用就是下下提示词、与AI聊天生成应用等等的,目前的AI笔电对你来说可能还没有这方面的需求。

0 阅读:26

科智时势

简介:专注智能时代的未来趋势