本地接入亚马逊云科技上的DeepSeek-R1,速度快到飞起!

数码好在云体验 2025-03-18 16:44:38

最近,亚马逊云科技的Amazon Bedrock终于上架了Serverless版本的DeepSeek-R1,按API调用产生的输入输出Token收费的模式,意味着谁都可以负担得起了。

之前也写过很多教人在本地电脑客户端接入DeepSeek-R1的教程,刚好趁周末时间,把最新折腾Amazon Bedrock的经验做一点点分享。

正文:在本地客户端配置接入Amazon Bedrock上的DeepSeek-R1

之前推荐大家使用的本地客户端Cherry Studio这里就不能用了,Cherry Studio以兼容OpenAI的方式来接入的,而Amazon Bedrock则是要用亚马逊云科技的IAM(身份和访问管理)系统。

https://github.com/aws-samples/sample-client-for-amazon-bedrock?tab=readme-ov-file

所以,我们第一步就是要下载Sample Client for Amazon Bedrock,这是Bedrock专用的本地客户端。

下载安装打开Bedrock Client之后,需要设置红框里的三个信息:

第一个就是你所在的AWS Region。具体可以从右上角找到,比如,我当前所使用的Region就是us-east-1。

第二个和第三个信息就是要拿到AK和SK了。

这就需要用到复杂、专业、严肃的IAM了。考虑到这个非常专业,我大部分操作都参考了亚马逊的博客,这里为每个用户创建了独立的IAM用户的AK/SK。

https://aws.amazon.com/cn/getting-started/hands-on/sample-client-for-amazon-bedrock/

说白话,就是你拿到的AK/SK只能在一台电脑上的一个客户端里使用,换电脑就不能用了。

只开放特别小的权限来提高安全性,这就是亚马逊常说的最小权限原则,属于最佳安全实践。

这种设定就属于:配置时候让人很难受,配置完之后让人很放心的东西。毕竟这种东西万一被盗,很容易破产的。

接下来手把手带你获得这个AK/SK:

首先,在亚马逊云科技的控制台搜索栏里搜索“IAM”,找到IAM的入口。

然后,在左侧菜单栏找到“策略”标签,点击进入新页面后,点击创建策略。

选择JSON方式进行配置,将以下JSON配置粘贴进去。

注意,一定要按照我给你的JSON代码来用,按照亚马逊博客的代码只能用基础模型,没法用DeepSeek。我在Claude 3.7 Sonnet的支持下修改了JSON代码,跪谢!

{ "Version": "2012-10-17", "Statement": [ { "Sid": "InvokeModel", "Effect": "Allow", "Action": [ "bedrock:InvokeModelWithResponseStream", "bedrock:InvokeModel" ], "Resource": [ "arn:aws:bedrock:*::foundation-model/*", "arn:aws:bedrock:*:*:model/*", "arn:aws:bedrock:*:*:inference-profile/*" ] }, { "Sid": "ListFM", "Effect": "Allow", "Action": [ "bedrock:ListFoundationModels" ], "Resource": "*" } ]}

点击下一步,把策略名称设置为“BRClient-Policy-2025”,然后点创建策略就行了。

接下来,在IAM首页,点击左侧菜单栏的用户标签,进入用户列表界面,点击右侧创建用户按钮。

输入用户名:brclient2025,点击下一步。

在新的页面里选择“直接附加策略”,在下面的输入框里搜索“BRClient-Policy-2025”,选中策略之后,点击下一步。

点击“创建用户”,系统会跳转到新的用户页面。

在用户页面点击新建的用户名。

在新的窗口里点击“安全凭证”的标签。

下滑,找到“创建访问密钥”按钮。

在新的页面中找到“本地代码的选项”,然后点击下一步。

在文本框里输入“brclient2025”,方便识别。

在新的页面中,就能看到创建完成的AK和SK。注意,这里的AK和SK只展示一次,如果现在不保存好,贝索斯来了都找不回来。

拿到AK和SK之后,依次填进去。然后点击下面的模型(Model)选项,点一下后面的刷新按钮,就能看到最新可用的各种模型。

至此,手把手教程结束,可以正常聊天对话了。

0 阅读:0

数码好在云体验

简介:感谢大家的关注