市场已从过度解读技术突破,回归到对算力基础设施瓶颈的清醒认识

知士问答啊 2025-02-10 09:32:41
市场已从过度解读技术突破的"爽文"叙事,回归到对算力基础设施瓶颈的清醒认识

来自能源的革命的雪球专栏

认知转变轨迹

初期英雄叙事(春节前后)

市场将DeepSeek视为"东方神秘力量",以558万美元训练成本(不足GPT-4o的1/10)突破规模定律

引发"英伟达护城河消失"等市场情绪,导致美股科技股下跌

现实认知回归(春节后)

算力不足成为新共识:API服务暂停充值暴露服务器资源紧张

国泰君安测算显示惊人算力需求:普通推理场景需16,177张H100或51,282张A100

本地部署要求升级:32B参数模型需24GB+ GPU及更高硬件配置,推动AIPC换机潮

算力需求关键数据

推理算力需求:1.6*10¹⁹ TOPS(基于1亿次日均访问量/10次提问/1000 token回复)

硬件配置标准:

推理端:FP8精度H100(50%利用率)或A100

终端:32B+模型需24GB+ GPU/更大内存/更高散热

市场格局演变

算力供给多元化:英伟达非唯一选择,"国产算力+国产大模型"成A股热点

产业链影响:

科技股涨幅前20中7只为DeepSeek概念股

PC硬件升级需求推动AIPC产业变革

信创/软件ETF领涨反映算力生态扩展

认知转变本质从过度解读技术突破的"爽文"叙事,回归到对算力基础设施瓶颈的清醒认识,反映出:

算法创新需匹配算力基建的现实需求

开源生态扩张加剧算力消耗

硬件迭代与国产替代的必然性

$中兴通讯(SZ000063)$ $卧龙电驱(SH600580)$ $赛力斯(SH601127)$

《智能算力发展趋势洞察》这篇文章深入探讨了人工智能时代背景下,智能算力的发展趋势及其在各行业中的应用前景。文章指出,随着AI技术的快速发展,尤其是大模型的兴起,对智能算力的需求呈现出爆发式增长。以下是文章的核心内容和重点:

背景知识

AI技术发展:AI技术经历了三次高潮和两次低谷,2022年11月OpenAI发布的ChatGPT标志着第三次AI技术发展达到新高度。

智能算力需求:大模型的训练和推理对算力提出了高性能、大规模并行、低时延互联的要求,推动了智能算力的快速发展。

研究方法

算力基础设施分析:文章从算力、存储、网络等基础设施的角度,分析了智能算力的发展趋势。

AI芯片技术分析:探讨了AI芯片的关键需求和技术路线,包括GPU和AI专用芯片的特点。

智算存储和无损网络:分析了智算存储的多元存储需求和无损网络的必要性,以及如何通过技术创新提升存储和网络性能。

关键结论

AI芯片需求:AI芯片需求分为训练芯片和推理芯片,训练芯片需要更高的算力以缩短模型训练时间,推理芯片则需满足不同业务场景的多样化需求。

智算存储:智算存储需提供多元数据存储能力及多协议互通能力,通过软硬件调优提升性能。

无损网络:AI大模型训练的并行计算特性要求网络具备零丢包、高吞吐大带宽、稳定低时延及超大规模组网的能力。

实验和案例分析

RoCEv2网络端网协同创新方案:中兴通讯提出的方案通过端网协同联动机制,实现了精准、快速的拥塞控制和流量调度算法,使网络吞吐率提升至90%以上。

智算AI平台:中兴通讯开发的智算AI平台集成了硬件适配层、引擎层、服务层和能力层,支持从数据管理到模型推理的全业务流程。

大模型赋能通信运维:大模型技术在通信领域的智能运维中得到广泛应用,包括运维知识问答、故障异常检测、根因定位和故障预测与预防等。

观点和现象

智能算力的重要性:智能算力是大模型发展的基石,对推动AI技术的广泛应用至关重要。

技术创新的必要性:面对大模型训练的挑战,需要在算力、存储、网络等方面进行技术创新,以提升智能算力的性能和效率。

智算中心的部署模式:智算中心的部署呈现枢纽大模型训练中心、省份训推融合资源池、边缘训推一体机三级部署模式,以满足不同场景下的性能、成本和服务需求。

未来展望

AI芯片技术发展:未来AI芯片设计将引入存算一体架构和Chiplet技术,以降低功耗和提升性能。

智算基础设施的优化:通过硬件、资源管理和产品方案的优化,构建高效、安全的智算基础设施。

大模型的应用拓展:大模型将在更多行业和场景中得到应用,推动各行业的智能化转型。

文章通过深入分析智能算力的发展趋势,展示了中兴通讯在智能算力领域的技术创新和应用实践,为推动AI技术的广泛应用提供了有力的支持

作者:能源的革命链接:https://xueqiu.com/7659667127/322733258来源:雪球著作权归作者所有。商业转载请联系作者获得授权,非商业转载请注明出处。风险提示:本文所提到的观点仅代表个人的意见,所涉及标的不作推荐,据此买卖,风险自负。

0 阅读:36

知士问答啊

简介:感谢大家的关注