ChatGPT要慌了?谷歌推出最新AI大模型Gemma(可本地部署)

老艾的AI世界 2024-03-02 22:33:44

2月21日,谷歌发布了最新一代语言大模型Gemma,与之前的Gemini模型相比,Gemma将参数扩展到了惊人的6万亿个,和ChatGPT4相当

谷歌宣称Gemma在多项关键的基准测试中已经显著超越了一些更大的竞争模型,例如LLAMA-2的7B和13B版本,以及备受关注的Mistral 7B模型。对此,Keras的开创者François Chollet在社交媒体上表示:最强开源大模型的位置现在易主了

与其它大模型相比,Gemma不需要事先注册账号以及月卡支付,本体不到5G容量的大小使其能够部署在资源有限的环境中,如笔记本电脑、台式机或者云服务器

无论是国外的ChatGPT或者国内的“文心一言”,其服务都是以API接口的形式提供,用户在使用的过程中可能会遇到网络拥堵问题以及隐私泄露的风险,而Gemma则是本地部署,服务仅限单人使用,这种方式既提升了人机交互的频率,也不用担心个人信息被外界获取

Gemma使用起来非常简单,输入提示语,点击提交,回答的速度相当快~

以下是博主实测的效果,中文体验不错,英文效果更强

注意事项

①项目安装路径不要包含中文

②推荐使用8G显存以上N卡运行此项目

③使用过程中若不慎关闭软件后台,请重新打开,并刷新网页

0 阅读:143

老艾的AI世界

简介:NLP工程师