7.8KStar开源OpenAI接口管理和分发系统

墨林一码农 2024-01-05 07:21:01



墨林码农专注分享开源项目, 精选开源社区技术干货,分享Github、Gitee上有趣、有价值的项目,一起学习,一起成长。

介绍

one-api 是一个开源的接口管理和分发系统,它支持多种大型模型,如 OpenAI ChatGPT 系列模型、Anthropic Claude 系列模型、Google PaLM 2 和 Gemini 系列模型、百度文心一言系列模型、阿里通义千问系列模型、讯飞星火认知大模型、智谱 ChatGLM 系列模型、360 智脑和腾讯混元大模型。该软件可用于二次分发管理 API key,并且提供了一键部署的 Docker 镜像,方便快速部署和使用。

功能特点多种模型支持:one-api 支持多种大型模型,可以满足不同需求和场景的使用。配置镜像和代理服务:软件支持配置镜像和集成多个第三方代理服务,提供更灵活的部署选项。负载均衡:支持通过负载均衡的方式访问多个渠道,提供更好的稳定性和性能。流式传输:one-api 支持 stream 模式,可以通过流式传输实现打字机效果。多机部署:软件支持在多台机器上进行部署,提供更高的可扩展性。令牌管理:支持设置令牌的过期时间和额度,灵活控制用户访问权限。兑换码管理:支持批量生成和导出兑换码,可用于为账户进行充值。通道管理:支持批量创建通道,方便管理和分配资源。用户分组和渠道分组:支持为不同分组设置不同的倍率,灵活管理用户和渠道。额度明细查询:支持查看额度明细,方便用户了解资源使用情况。用户邀请奖励:提供用户邀请奖励功能,鼓励用户推广和使用软件。界面显示单位:以美元为单位显示额度,便于用户了解消费情况。公告发布和定制设置:支持发布公告、设置充值链接和设置新用户初始额度,方便运营管理。模型映射和重定向:支持模型映射,可重定向用户的请求模型。失败自动重试和绘图接口:支持失败自动重试和绘图接口,提供更好的用户体验。Cloudflare AI Gateway 支持:支持 Cloudflare AI Gateway,方便设置代理部分。自定义设置:提供丰富的自定义设置功能,如自定义系统名称、logo、页脚等。用户管理和多种登录注册方式:支持多种用户登录注册方式,如邮箱登录注册、GitHub 开放授权和微信公众号授权。使用步骤

在基于 Docker 的部署环境中,可以按照以下步骤进行部署和使用:

1.使用 SQLite 的部署命令:docker run --name one-api -d --restart always -p 3000:3000 -e TZ=Asia/Shanghai -v /home/ubuntu/data/one-api:/data justsong/one-api

若使用 MySQL,请在上面的命令中添加 -e SQL_DSN="root:123456@tcp(localhost:3306)/oneapi" 参数,并自行修改数据库连接参数。

2.确保宿主机的目录 /home/ubuntu/data/one-api 存在且具有写入权限,或者更改为合适的目录。3.如果启动失败,请添加 --privileged=true 参数。4.若要拉取 GitHub 的 Docker 镜像,将上述命令中的 justsong/one-api 替换为 ghcr.io/songquanpeng/one-api。5.对于高并发量的需求,请设置 SQL_DSN 环境变量。6.使用更新命令保持软件最新:docker run --rm -v /var/run/docker.sock:/var/run/docker.sock containrrr/watchtower -cR7.配置 Nginx:server {server_name openai.justsong.cn; # 请根据实际情况修改你的域名 location / { client_max_body_size 64m; proxy_http_version 1.1; proxy_pass http://localhost:3000; # 请根据实际情况修改你的端口 proxy_set_header Host $host; proxy_set_header X-Forwarded-For $remote_addr; proxy_cache_bypass $http_upgrade; proxy_set_header Accept-Encoding gzip; proxy_read_timeout 300s; # 需要较长的超时时间,请自行调整 }}8.配置 HTTPS,使用 Let's Encrypt 的 certbot:sudo snap install --classic certbotsudo ln -s /snap/bin/certbot /usr/bin/certbotsudo certbot --nginxsudo service nginx restart9.初始账号的用户名为 root,密码为 123456,请及时修改密码。结束语

几个简单的字符,就能创造出欢乐,

几个简单的号码,便能写出奇迹。

一个键盘,就能畅游世界,

一根网线,便能知晓天下。

创作不易,感谢大家的支持。后续也会分享更多的干货和技术资讯,您的阅读就是对小编的支持,再次感谢各位老铁!

0 阅读:242

墨林一码农

简介:感谢大家的关注