从来没有想过,我们也被逼上了64GBx2总容量128GB的内存了!不过,我们也相信,在大模型本地化的浪潮之下,这也应该是使用AI算力来创业的基本配备了。为什么呢?我们一起来看!
一、老规矩,还是先来看开箱!这就是即将上机的英睿达DDR5 Pro 64GBx2内存。它的总容量达到了惊人的128GB。虽然是一对市面上少有规格的内存,但它的包装并不能够凸显它的特殊,依旧是英睿达家族风格的设计,在右上角标注了128GB,5600MT/s,它支持Intel XMP和AMD EXPO。
背面,同样也是家族化的风格,中间的小窗中可以看到这对内存的二维码。
打开包装之后,我们就可以看到这对内存的本体啦!它采用了磨砂铝制马甲。左侧是英睿达的英文LOGO,右边是DDR5 Pro的字样。
内存拿在手里,还是蛮有质感的。精致的它,也无愧于其系出名门的背景。它的马甲也专门做了凸凹的设计,扩大了散热面积,也更有利于颗粒的稳定运行。
在内存的背部,也有着英睿达Crucial DDR5 Pro的字样。
虽然没有做成灯条,但作为一对大容量的内存条,它也带有了一种专业的特有的冷峻感觉。它的高度约在34.8mm,可以适配大多数的CPU风冷散热。
从侧面,我们同样可以看到,内存颗粒与散热马甲之间填充了更有利于散热的导热硅脂。
二、上机来看一下性能吧上图是本次测试的平台,它使用了AMD 9800×3D的处理器、技嘉X870主板,其中红框部分为本次测试的内存,英睿达64GBx2 5600MT/s。
我们使用鲁大师对其跑了一个分,从上图中可以看出,处理器得分为971032分、显卡得分为458624分、内存得分为221531分、硬盘得分为389856分,整机性能得分为2041043分。
在AIDA64的测试之中,英睿达DDR5 Pro的读取为53612MB/s、写入为72924MB/s、复制为48176MB/s,延迟为104ns。
在PerformanceTest的测试之中,它的得分为3149,位列前32%。虽然说这样的数并不亮眼,但在64GBx2的规格中,英睿达DDR5 Pro却是鲜有对手的。
三、128GB内存加持下的整机性能表现另外,我们也使用PCMARK10进行了整机性能的测试。从中可以看出,它的常用基本功能得分为11079,生产力得分为12106,数位内容创作得分为15838,PCMARK10的总体得分为9216。从我们的实际应用来看,大内存的优势更多的体现在了多生产力软件同时打开、运行时,系统依旧可以保持高效的运转,没有卡顿的情况出现。
我们再来看一眼3DMARK的跑分,在TimeSpy中,它的显卡分数为13195、CPU分数为14672,TimeSpy得分为13397。虽然整体的提升并不如生产力那边明显,但在《黑神话:悟空》的加载来看,更大的内存也带来了更迅捷的响应速度。
另外,我们也使用Procyon进行了AI测试,在AI图像生成的环节中,它的得分为1275,平均每张图片的生成时间为4.9s,16张图片总耗时为78.393s。
同样的,在PS、LC的测试之中,我们也可以感受到大内存对于生产力效果的提升。整机在照片编辑基准测试中得分为9675分。
在以Adobe Premiere Pro为基准的测试之中,整机的总体性能得分为28701分。
在语言大模型的测试之中,PHI 3.5的得分为2396、MISTRAL 7B的得分为2194、LLAMA 3.1的得分为1679、LLAMA 2的得分为380。可见,更大的内存,也让整机有了更好的性能表现。
四、实际应用:8G显存,照样玩转DEEPSEEK 70BDEEPSEEK可以说是当下最火爆的大模型之一了,如果我们本地部署的话,它是对显存有一定要求的。比如说,它的7B/8B就对应着8G的显卡。16GB以上就可以使用32B的标准版。但是,如果我们手头仅有8G显存就不能玩了吗?还真不是!我们就用8G显存的4060Ti,借助大内存跑上了70B的本地版本。
只要我们的内存够大,其实还是能够以强补弱的。下面,我们也将自己部署的方法与UU们,一同分享。我们这次使用的是LMSTUDIO作为平台进行部署的。首先我们在https://lmstudio.ai/下载对应自己系统的版本。
下载完成之后,我们在APP Settings的Language的部分更改语言为中文。不过,目前来说这还是Beta版,因此语言并不是完全变为中文。
之后,我们点击左侧的“放大镜”,在中间的搜索框里面输入DEEP,就能够看到它推荐的DEEPSEEK版本。我们选择“DeepSeek-R1-Distill-Llama-70B-GGUF”,它就是70B的版本。
之后,我们在LMS中间的框中加载模型,其中上下文的长度可以调整至10000,由于GPU不强,所以保持在8。在CPU Thread Pool Size那里,我们直接拉取最大值。这个样子的话,运算的主要负载就来到了CPU这一侧。并开启“保持模型在内存中”,不过,好在128GB的内存够大,折腾起来没问题。最后点击“加载模型”,就完成了DEEPSEEK 70B版本的部署。
当然了,让70B的版本更聪明,我们通常还会在系统提示那里,设定DEEPSEEK回答问题的身份,在温度那里设置它的思维维度。
上述内容完成了之后,我们就可以看到,单单一个DEEPSEEK就已经消耗了38.51GB的内存。
在未开启其它软件的情况下,整机系统内存的占用已经达到了50.3GB。如果,我们再开启Confyui,实现多AI工具系统协同作战的话,那么这对64GBx2的内存,依旧是游刃有余的。
那么,话又说回来,32GB的当真不行吗?我们也来试了一下,结果尴尬了~。显示系统超载!
购买建议:好了,关于这对内存的使用体验和DEEPSEEK 70B的本土化部署,我们今天就先分享到这里。从近些天的使用情况来看,来自英睿达的这对DDR5 Pro内存,不论是应对超猛生产力要求,还是游戏,都是完全够用的。特别是在AI时代,当下显卡价格乱战的情况下,有这样一套128GB的内存,也能够实现较有效率的AI工作流。它,值得您一试!
好了,本期的体验分享就到这里,我是潮玩,8小时内努力搬砖,8小时外热烈码字,这里持续分享数码新体验,承蒙欢喜,予我厚爱,我们下期再见!