马斯克用了10万块H100芯片,训练Grok3聊天机器人

充电逗辅脑 2024-07-02 19:32:35

埃隆·马斯克正在为其即将推出的AI聊天机器人 Grok的新版本造势

Grok是埃隆·马斯克的人工智能初创公司xAI开发的 AI聊天机器人

据报道,xAI已发布了 :

Grok-1和 Grok-1.5版本

Grok-2计划于今年 8月推出

Grok 3预计将于年底发布

马斯克在社交媒体X上发文表示,经过10万块H100芯片训练后的Grok3聊天机器人将会“非常特别”。

每块英伟达H100人工智能芯片的价格估计在3-4万美元左右,通过简单计算,单单训练Grok 3就用了价值30亿至40亿美元的人工智能芯片!

Grok的一些特点包括:

能够处理长达25,000个字符的提示;响应速度快,可提供即时反馈;

用户能根据个人喜好设置AI的语气;使用了庞大的数据集,拥有广泛的知识;

可以在 X平台上进行实时搜索;计划推出 API接口;其输出和提示都支持语音交互;具备图像生成、识别以及音频识别等功能;一个较小版本将能够在特斯拉汽车中本地运行等。

虽然 Grok尚未正式大规模应用,但马斯克对其寄予厚望,希望它能在人工智能领域有出色的表现,并计划将其与特斯拉汽车进行整合。

关于 Grok 3的具体性能和表现,还需在其正式发布后进一步了解和评估。

这里所说的H100:

是英伟达开发的图形处理单元,也称为Hopper,是专门用于处理大语言模型数据的AI芯片。H100采用了台积电最新的四纳米工艺,集成800亿晶体管,最高1.8万个CUDA核心,功耗为700W,配备80GB HBM3显存。

H100计算卡有SXM、PCIe 5.0两种样式,其中 PCIe版价格为24万元以上。

英伟达 H100 GPU凭借英伟达可扩展的 NVLink互连技术,最多可连接256个H100芯片,可推动庞大的AI语言模型、深度推荐系统、基因组学和复杂的数字孪生技术应用等。

当人工智能生活相遇,奇迹便开始发生!

0 阅读:27

充电逗辅脑

简介:充电逗辅脑,轻松一刻,能量满满!