Groq是AI快速推理平台, 集成Gemma2,Llama3,Mixtral等大模型,下午小小的体验了下,反应速度真的很快。不过Groq的风控很严,在国内我是尝试了多种方法才注册成功的。
我们打开Groq官网,可以用谷歌账号授权登录(一般国内谷歌账号授权大概率注册失败,可以用Outlook邮箱尝试下)
我们先在Model选择语言大模型,Gemma2,Llama3,Mixtral等大模型。
Gemma2才出来没多久,我们来看看它的数学推理能力如何?
回答正确,回答的速度也非常的快,计算公式也写的很详细。
再来看看Gemma2的编程能力如何?
就让它帮我写款WordPress分类上下移动的插件吧!
回答的很委婉,但是最后还是写出了示例代码,总体来说还是不错的。
最后我们再来体验下Llama3,Mixtral大模型吧!让它们给我写点旅游攻略吧!
用中文提问的,但是回答却是纯英文,看来还是以英文为主,不过写的攻略倒是还不错。
Groq作为AI推理平台,在回答速度上的确很优秀,开发者们也可以接入API使用哦~