马斯克宣布正式开源大模型Grok-1人工智能概念股持续拉升

萝卜投 2024-03-19 10:00:31
3月18日,人工智能板块表现强势,博信股份、声迅股份2连板。催化上看,日内马斯克旗下大模型公司 xAI 宣布正式开源 3140 亿参数的混合专家(MoE)模型「Grok-1」,这也使得Grok-1成为当前参数量最大的开源大语言模型。

3月18日,人工智能板块表现强势,博信股份、声迅股份2连板,光启技术、成都先导等表现活跃。

消息面上,今天凌晨,马斯克旗下大模型公司 xAI 宣布正式开源 3140 亿参数的混合专家(MoE)模型「Grok-1」,以及该模型的权重和网络架构。这也使得Grok-1成为当前参数量最大的开源大语言模型。

据介绍,Grok-1 的模型细节包括如下:

基础模型基于大量文本数据进行训练,没有针对任何具体任务进行微调;3140 亿参数的 MoE 模型,在给定 token 上的激活权重为 25%;2023 年 10 月,xAI 使用 JAX 库和 Rust 语言组成的自定义训练堆栈从头开始训练。

此外,从事件催化上看,3 月 22 日,北京国家会议中心将举办2024年昇思人工智能框架峰会。

兴业证券表示,“人工智能+”首次写入政府工作报告,工信部表态适度超前建设算力等基础设施,AI 大模型、AI 安全等也成为两会关注热点。AI 产业各环节有望得到政府预算保障,可持续重点关注 AI 产业发展,把握相关投资机会。

本文首发自萝卜投研

0 阅读:7
评论列表
  • 2024-03-19 13:34

    既然Grok 语言模型那么先进,为什么特斯拉车机语音那么差啊

  • 2024-03-19 10:51

    开源第一狠人马斯克,秒杀范德彪

萝卜投

简介:感谢大家的关注