号称目前最强中文开源模型Baichuan2整合包(7B)

懂科技的老葛 2024-03-14 02:11:18

今天分享一个号称目前“最强中文开源模型”Baichuan 2的离线整合包。

Baichuan 2简介

Baichuan大模型是由前搜狗CEO王小川离职创业,投身AI领域后,开发出的国产AI大模型。Baichuan 2是他们公司新一代的大模型产品。

Baichuan 2是百川智能推出的新一代开源大语言模型,采用2.6万亿代币的高质量语料训练。Baichuan 2在多个权威的中文、中文和多语言的通用、领域基准上取得了同尺寸的最佳效果。本次发布包含有7B、13B的Base和Chat版本,并提供了 Chat 版本的4bits 量化。所有版本对学术研究完全开放。同时,开发者通过邮件申请并获得官方许可后,即可免费获得

Baichuan 2离线整合包

部署Baichuan 2比较麻烦,这里我也已经帮大家整理好了Baichuan 2的离线整合包了,解压即用。今天制作的是7B模型的整合包,它对机器性能要求相对较低,方便大家快速上手。

①下载整合包:解压到本地后,双击“一键启动-7B量化.exe”

②加载大模型:双击一键启动程序后,会打开一个命令提示窗口,项目会自动运行。加载成功后,可以看到以下地址“ http://127.0.0.1:7860”。

在浏览器输入该地址,即可看到项目主界面,直接问他一个比较有智慧的问题:鸡和兔在一个笼子里,共有26个头,68只脚,那么鸡有多少只,兔有多少只?

假设鸡的数量为x,兔子的数量为y。根据题目给出的信息,我们可以得到以下两个方程:1. x + y = 26 (头的总数)2. 2x + 4y = 68 (脚的总数)现在我们需要解这个二元一次方程组。首先从第一个方程中解出x:x = 26 - y然后将x的表达式代入第二个方程:2(26 - y) + 4y = 6852 - 2y + 4y = 682y = 16接下来我们求解y的值:y = 16 / 2y = 8现在我们得到了兔子的数量是8只。将y的值代入x的表达式求得鸡的数量:x = 26 - 8x = 18所以鸡有18只,兔子有8只。

Baichuan-2-7B大模型的回答非常快(实测10~20秒出答案),而且答案很正确。恭喜你,已经可以在本地拥有一个超强的AI大模型了,以后辅导孩子写作业,再也不慌了!

注意事项:

①该项目需要N卡,显存8G以上,建议2060以上级别显卡,过低显存可能无法使用

②请确保安装路径不包含中文,不然可能会引起奇怪的适配问题

请大家三连分享+收藏+点赞支持一下,私信回复【Baichuan-2-7B】,免费获得本文提到的资源~

0 阅读:0

懂科技的老葛

简介:感谢大家的关注