DeepSeek 开源周第三天，今天推出了 DeepGEMM。
DeepGEMM是一个简单但功能强大的Hopper GPU矩阵数学库。(H100/H800)它有大约300行代码,但可以比复杂的替代方案更快地运行AI模型，尤其擅长处理LLM所需的8位数学运算。它适用于常规AI模型和特殊的MoE(专家混合)设置，在某些情况下可实现高达2.7倍的速度提升，并且最适合DeepSeek V3架构。
为了理解DeepGEMM，请想象一下:
AI计算的世界就像一个繁华的大都市，数据在高耸的神经网络之间快速流动，就像未来城市中的汽车一样。DeepGEMM是一个时尚、高性能的FP8 GEMM库。这不仅仅是一个工具，而是一个涡轮增压引擎，旨在让AI流量以极快的速度流动，它正在用它所能做到的一切吸引人们的注意。
对于初学者来说:
DeepGEMM在H800 GPU 上实现了惊人的1350+TFLOPS，支持密集矩阵和混合专家(MoE)矩阵运算，这对于训练和运行DeepSeek-V3和R1等尖端模型至关重要。它的核心逻辑只有300行,就像一辆紧凑型超级跑车，在大多数矩阵大小上都超越了体积更大、经过专家调校的竞争对手。没有繁重的依赖关系,完全JIT编译，并且像初学者指南一样直观，这是一个不牺牲性能的效率奇迹。
这有什么大不了的?
想象一下，尝试在有限的预算内训练一个庞大的AI模型(数十亿个参数)。传统库会占用大量资源，压力之下会变得非常缓慢，但DeepGEMM的FP8精度可大幅减少内存使用量并提高速度，在针对中国市场量身定制的硬件上每秒可执 超过1350万亿次操作。这就像将一条拥挤的乡间小路变成一条高速公路，同时保持设计精简，只需几百行代码即可完成。它不仅速度快，而且非常智能，支持标准任务的密集布局和两种MoE样式，让“专家”网络无缝协作，使复杂模型比以往更加高效。
那么，你能用它做什么呢?
首先，研究人员和开发人员可以增强AI训练，从H800GPU中榨取顶级性能，而无需在硬件上投入大量资金。想象一下制作可与大公司相美的下一代语言模型或推理系统，同时保持低成本和高可扩展性。它的轻量级、无依赖性意味着它是一个即插即用的梦想—非常适合初创公司、学术界或任何在精益设置上构建AI的人。借助MoE支持，您可以设计可即时适应的模型，将任务分配给“专家”，以无与伦比的敏捷性处理从聊天机器人到科学模拟的所有问题。
DeepGEMM不仅仅是一个库;它让我们
看到了人工智能的未来，在那里强大并不
意味着复杂。
