妥了,部署DeepSeek国家超算平台出手了

围观谈科技 2025-02-14 20:26:53

为助力更多企业及专业开发者部署包括DeepSeek在内的AI开源模型,近日国家超算互联网平台发布了“DeepSeek私有化部署方案”。方案依托丰富的轻量化AI工具,支持企业用户部署完整的DeepSeek对外API服务接口,实现AI应用创新。

“DeepSeek私有化部署方案”不仅支持企业用户与开发者调用部署完整的DeepSeek对外API服务接口,还可根据实际业务场景深度定制,实现AI应用创新。

超算互联网提供平台的丰富轻量化工具,支持企业实现AI部署在线调试及快速验证功能。而如多实例启动、线上服务扩缩容、服务版本管理等平台工具,也支撑企业在线推理场景中的多元应用诉求。

「操作指导」

第1步:Notebook轻量级开发工具开发调试;在Notebook中选择【异构加速卡AI】资源,并选择开发环境。在【模型镜像】处挑选目标镜像,现阶段平台提供DeepSeek R1(671B、70B、32B、14B、8B、7B、1.5B )系列模型。

实例启动后可参考Markdown指引,调试部署参数或个性化开发,支持WebUI或API接口服务调试,完成后可保存镜像。

▲DeepSeek-R1模型镜像创建界面

第2步:模型部署服务快速部署模型;基于平台镜像管理功能,企业用户与开发者可直接推送Notebook中保存的镜像到【模型部署】服务中使用;填写API调用地址,选择【异构加速卡AI】资源,快速部署为线上服务,获取API接口。

▲DeepSeek-R1模型部署开

3 阅读:2292
评论列表
  • 2025-02-16 07:23

    好像梁文峰将公司和服务器安置在军事基地内,如果是真的,说明之前说Deepseek是国运级别的就一点都不为过了。[点赞][点赞][点赞]

  • 2025-02-21 18:11

    真是假不了!假的真不了[点赞]二十岁有十年工龄?先管管今晚开什么欢色球!

  • 2025-02-16 12:02

    现在国家超算平台体验也不好,比较卡,效率低。

围观谈科技

简介:感谢大家的关注