Gitee AI 刚刚上线了DeepSeek-R1-Distill-Qwen-1.5B、DeepSeek-R1-Distill-Qwen-7B、DeepSeek-R1-Distill-Qwen-14B、DeepSeek-R1-Distill-Qwen-32B四个较小尺寸的 DeepSeek 模型。值得关注的是,本次上线的四个模型均部署在国产沐曦曦云 GPU 上。
![](http://image.uc.cn/s/wemedia/s/upload/2024/c7491031c88db731bc37d475e0cb3100.jpg)
与全尺寸 DeepSeek 模型相比,较小尺寸的 DeepSeek 蒸馏版本模型更适合企业内部实施部署,可以极大地降低落地成本。
同时,这次 Deepseek R1 模型 + 沐曦曦云 GPU + Gitee AI 平台,更是实现了从芯片到平台,从算力到模型,全国产研发、中国制造。
100%国产AI的力量国产模型 DeepSeek R1DeepSeek R1 是一款大型混合专家(MoE)模型,拥有 6710 亿个参数,支持 128000 个 Token 的大输入上下文长度。在数学、代码和自然语言推理等任务上表现出色。
本次部署在沐曦曦云 GPU 上的是四个 DeepSeek R1 蒸馏模型,以更小参数量的资源占用,实现了性能与大参数模型旗鼓相当。
![](http://image.uc.cn/s/wemedia/s/upload/2024/d590994a9d046ec881a1d3c321b4e944.jpg)
曦云系列通用 GPU 产品(包括 C550、C500、C500X、C290、C280、N260 等型号)采用完全自主研发的 GPU IP,拥有完整的知识产权,并具备强大的多精度混合计算能力及高带宽显存支持。同时,沐曦产品搭载先进的时空互联技术和全球兼容的 MXMACA 软件栈,可广泛应用于智能、通用计算和数据处理等场景。
![](http://image.uc.cn/s/wemedia/s/upload/2024/6c66105a4963086e8181419fb5b743e6.jpg)
在本次部署适配工作中,得益于沐曦曦云良好的 CUDA 兼容性,同时得到沐曦的算力供应商超讯通信的鼎力支持,最终实现了模型的快速部署、稳定调用。
更多国产芯片适配工作已在紧锣密鼓进行中,各位开发者敬请期待。
国产平台 Gitee AI2024 年初上线以来,Gitee AI 平台以 Serverless API、模型引擎、AI 应用为核心功能与服务,致力于让开发者轻松构建和部署 AI 应用,为企业客户提供更加智能、高效的 AI 应用解决方案。
![](http://image.uc.cn/s/wemedia/s/upload/2024/f462ab8487ac4d3df21c3bf25a51770a.jpg)
目前 Gitee AI 上的DeepSeek-R1-Distill系列模型现已面向全体开发者免费使用!免费使用!免费使用!
本次上线的模型参数虽小,但它们表现并不亚于大参数模型,如下图中的DeepSeek-R1-Distill-Qwen-14B,虽然参数较小,但简单任务相较于大参数模型其响应速度更快,同时也具备体现思考过程的能力:
![](http://image.uc.cn/s/wemedia/s/upload/2024/4f6e55741470895555a293d79a19598b.jpg)
模型自强、算力自强、平台自强,100%国产AI的新时代已然来临。与其在“制裁-替代-再制裁”的循环中疲于奔命,不如和我们一起在国产 AI 的土壤上,种出下一个时代的参天大树。
点击文末阅读原文访问 Gitee AI,体验基于沐曦算力的 DeepSeek R1,开启你的100%国产AI开发之旅!
Gitee AI 的 Serverless API 提供了文本生成、视觉模型、图像处理、语音识别、语音生成、向量与重排模型、代码生成等 9 种类型共 52 个大模型的 API 使用。通过购买模型资源包,即可通过极低的价格即可尽享众多主流模型。
![](http://image.uc.cn/s/wemedia/s/upload/2024/c2c7c9c01cdac396560628dde894fff7.jpg)