AI时代的存储,美光怎么看?

论半导体谈人生 2024-03-31 21:23:09

“这个颠覆性的技术将会改变我们的企业和社会。”美光企业副总裁暨存储部门总经理 Jeremy Werner 在日前谈到AI时如此说道。 自ChatGPT发布一年多以来,人工智能正在改变文字、图片、语音和视频,甚至连生成方式也发生了翻天覆地的变化,这一方面给终端带来了革命性的变化,另一方面,也为其提供动力支持的基础设施创造了新的机会。此外,随着智能驾驶汽车崛起的潮流,让算力和互联成为半导体行业备受关注的两个方面。 当然,还有存储,这也是AI时代不可或缺的重要组成,随之而来的挑战也显而易见。

存储的机遇和挑战 Jeremy首先指出,在AI的驱动下,市场对产品、设备以及相关解决方案的性能和容量会提出更高要求。数据中心作为人工智能的核心,需要快速的传输数据,并能更好地存储数据,在这一过程中,存储还需要避免过热的问题,这是存储供应商首先要面对的挑战。 近年来,智能汽车的火热带动了AI技术在该领域的广泛应用。随着用户对内存和存储需求的不断增长,这些内存功能需要具备强大且可靠的性能,这样才能在极端环境下做出实时决策。 除了数据中心和汽车,包括智能手机和PC在内的边缘设备也是AI变革的一部分。以PC为例,他们在AI时代迎来性能和容量的双重提升,随之而来也会遇到很多新的挑战。 “从性能来说,这意味着我们需要更好地管理功耗,从而让电池的寿命和续航更长,同时也会确保我们的设备不会出现过热或过载的情况;从容量的角度出发,我们都知道,PC的价位需要控制在一个比较合适的水平,以确保我们的消费者和客户端都能够接受这样的价格,但存储量同时也需要增加。”Jeremy说。 Jeremy总结道,无论是对数据的存储,还是数据的调用,最为重要的就是我们必须建立起彼此之间的信任。无论从产品端,还是从我们需要进一步保护客户的隐私和敏感信息的角度出发,都需要对信任提高认识,因为信任可以建立起可靠性。“可靠性包含许多维度,例如安全性、产品性能、耐用性、服务质量、延迟度、容量和价格等等,这些都很重要,但排在第一位的永远是信任。”Jeremy强调。 针对这些问题,美光正在各个击破,从数据中心到边缘,从手机、PC到汽车等各个领域交付市场所需要的存储技术。 美光的多路出击 Jeremy重申,美光的任务就是能够成为全球领先的创新内存和存储解决方案提供商。公司也正在为上述市场交付具有成本竞争力、用户容易接受且便捷的存储方案。 在数据中心方面,首提的就是美光的HBM。因为AI的兴起,这类DRAM在过去几年的火热有目共睹。根据集邦预测,至今年底,全球HBM总产能将达250K/m,约占动态随机存取记忆体(DRAM)总产能的14%,供给位元年成长将高达260%,HBM产值占DRAM比重也将从2023年的8.4%大幅提升至2024年底的20.1%。美光也借助公司极具竞争力的HBM3E强势出击。 Jeremy透露,与竞争对手相比,美光HBM3E的性能提升了10%、功耗降低了30%。除了HBM以外,美光还提供了容量密度提升高达45%的DDR5内存;美光还有24Gb和32Gb DRAM,可以帮助提升延迟和性能。“与竞品相比,从AI推理速度来看,我们128GB产品的延迟降低了17%,对于数据中心工作负载,美光的DDR5功耗更是降低了24%。” 在数据中心SSD方面,美光也提供了领先的高性能产品,当中包括6500 ION SSD、7500 SSD以及9400 SSD等领先产品。其中,9400 SSD拥有业界领先的 30.72TB 存储容量和优于竞品的卓越工作负载性能,每秒读写操作次数(IOPS)提高了77%。美光9400 SSD也是全球速度最快的已出货 U.3 规格 PCIe 4.0 数据中心硬盘,所有容量规格均能实现一致的低延迟性能。当然,在高性能的PCIe 5.0SSD产品方面,美光也有广泛的布局。 在PC领域,美光也从容量和性能两个方面解决开发者的问题: 首先,从容量角度出发,产品需要确保价格能够控制在一个比较合理、可以接受的范围。对于美光来说,公司最强的解决方案就在于QLC NAND,因为美光在QLC NAND和PC结合方面一直处于全球市场的领先地位。 “从QLC的角度来说,我们可以做到非常低的成本,同时不断提升它的容量,并且能在对用户体验不妥协的情况下实现三者更好的平衡与完美结合。”Jeremy说。 其次,从性能的角度来说,美光一方面需要确保产品的功耗保持在非常低的水平,同时又必须在需要调取相关数据进行读取和写入的时候,也能够迅速唤醒整个系统。在不需要额外输出的时候,美光也需要能够迅速切换到睡眠模式或其他待机模式。 Jeremy指出:“这些技术意味着我们可以把SSD很好地和硬件、固件相结合。而从QLC的角度来说,它会在不降低任何用户体验的前提下,把容量、性能等方面的所有好处和一些卓越的表现在PC端进行更好的结合,以支持未来AI的发展。” 手机和智能汽车市场,美光的影响力更不用多言。特别是在汽车市场,有行业人士告诉笔者,美光在这个市场的市占率遥遥领先于竞争对手。 “在DRAM和NAND方面,美光一直是技术开发的领先者,拥有包括176层、232层NAND制程工艺和1α/1β DRAM在内的多个技术,当中不少还是都是美光首创的。”Jeremy告诉笔者。也正是因为这些研发投入让美光能够一直处于不败之地。 值得一提的是,在近年来行业关注的CXL方面,美光也有布局。去年八月,他们也为客户及合作伙伴出样美光CZ120内存扩展模块。 据介绍,该模块拥有128GB和256GB两种容量,采用E3.S 2T外形规格,支持PCIe 5.0 x8接口。此外,CZ120模块能够提供高达36GB/s的内存读取/写入带宽,并在需要增加内存容量和带宽时为标准服务器系统提供增强支持。CZ120模块使用CXL标准,并完全支持CXL 2.0 Type 3标准。通过独特的双通道内存架构和大规模量产的DRAM制程,该模块提供了更高的容量及带宽。 虽然关于CXL在AI的应用,不同分析师有着不同的观点,但Jeremy对其未来有着乐观的态度。 “未来,在SSD和DRAM之间的确会存在一个竞赛,SSD会跑得更快,DRAM会做得更大、更强。因此随着SSD层和DRAM层不断的发展和壮大,它也会进一步挤压CXL这个层面的发展。所以在我看来,CXL虽然还远远没有得到开发和发展,对于未来CXL是否一定会取得成功也应该还有很多疑问,但我个人相信在未来AI为主的时代,CXL也有属于它的一席之地。”Jeremy说。

0 阅读:0

论半导体谈人生

简介:感谢大家的关注