AIToolkit,VsCode最全面的AI插件,太香了~

数据科技有技术 2025-03-11 20:03:02

AI Toolkit是微软官方AI大模型生态插件,主要用来下载、微调、测试大模型,它的模型库丰富丰富,有75个线上模型,以及可以连接本地模型,而且提供了模型测试 Playground、模型微调 Fine-tuning等功能,可以让你更好的使用大模型。

在VsCode插件库中下载安装AI Toolkit插件,直接在插件库中搜索即可。

AI Toolkit有4个功能板块,分别是My MODELS(查看自己的模型)、CATALOG(在线模型目录)、TOOLS(工具库,可用于辅助编程等)、HELP(文档之类的)。

TOOLS中有几个工具比较实用,比如Palygroud可以测试大模型用来编程、Prompt Build用于提示构建器、Bulk Run用于批量运行、Evaluation用于评估模型性能、Fine-tuning用于模型微调。

在AI Toolkit中安装官网DeepSeek R1满血版,首先点击CATALOG模型库,找到DeepSeek R1并添加,然后跳出来Key填写框,填写好Key,就配置好了满血版。

配置本地DeepSeek R1 7B版本也不难,点击Add model,会出现Ollama model选项,然后选择DeepSeek R1 7B模型,这是事先安装好的。

当官网满血版和本地版都安装好后,MY MODELS功能框中就出现了它们的身影,说明可以用了。

接下来使用Playground 测试功能,和DeepSeek对话让它生成代码或者干其他事情。

提示:编写Python代码,实现数字识别模型

代码生成好后,可以直接插入到py文件中。

你可以对DeepSeek参数进行调整,比如温度、最大输出字符数等,让模型更加符合你的需求。

AI Toolkit不同于传统AI编程插件,它是服务于大模型的工具箱,辅助编程只是它的功能之一,所以如果你想要训练自定义模型,可以来试试AI Toolkit。

关于更多VsCode AI编程插件使用,DeepSeek部署,可以参考我的专栏。

0 阅读:62

数据科技有技术

简介:感谢大家的关注