微软开始集成国产DeepseekR1大模型

SevenTech 2025-01-31 23:55:08

DeepSeek突然出现在西方,并征服了所有人。DeepSeek成为51个国家中最受欢迎的应用程序。新的人工智能模式正在扩展到移动设备之外,并向Windows平台进军!是的,它现在得到了微软的支持。

昨天,微软将DeepSeek R1模型添加到其Azure人工智能领域,允许开发人员构建和测试基于云的应用程序。今天,该公司透露计划将R1的精简版本带到Copilot+ pc。这是一个有趣的转折,因为微软一直是OpenAI最大的支持者之一,现在该公司也向Deepseek敞开大门,后者是当前人工智能模型的巨大竞争对手。

对于DeepSeek首先将在骁龙x驱动的设备上推出,继而是英特尔酷睿Ultra 200V和AMD Ryzen AI 9个人电脑。第一个版本是DeepSeek-R1-Distill-Qwen-1.5B(一个15亿个参数模型),不久将有更大的7B和14B版本加入。用户可以从微软的人工智能工具包中下载。

微软调整了这些模型,以便在带有NPU的设备上高效运行。内存繁重的任务由CPU处理,而要求较高的操作(则在NPU上运行。由于这些优化,Microsoft实现了130毫秒的快速首个令牌响应时间和每秒16个指令的短提示处理速度。

尽管微软与OpenAI关系密切,但它并没有将自己局限于一家人工智能提供商。它的Azure Playground已经支持GPT模型(OpenAI)、Llama模型(Meta)、Mistral模型,现在又支持DeepSeek模型。

用户可以在本地运行AI。只需要下载VS Code的AI工具包。从那里,您可以获得模型(例如,1.5B版本的“deepseek_r1_1_5”)。安装后,在Playground中单击Try来测试这个精简版R1的性能。

精简版R1是在保留尽可能多的智能的同时缩减大型人工智能模型(DeepSeek R1有6710亿个参数)的过程。较小的模型(例如,1.5B参数)不如完整版本强大,但其缩小的尺寸允许它在普通消费硬件上运行,而不是昂贵的AI系统。

喜欢点赞收藏!欢迎关注SevenTech!

0 阅读:2

SevenTech

简介:资深科技自媒体,Seven哥说科技.