3月18日,人工智能板块表现强势,博信股份、声迅股份2连板,光启技术、成都先导等表现活跃。
消息面上,今天凌晨,马斯克旗下大模型公司 xAI 宣布正式开源 3140 亿参数的混合专家(MoE)模型「Grok-1」,以及该模型的权重和网络架构。这也使得Grok-1成为当前参数量最大的开源大语言模型。
据介绍,Grok-1 的模型细节包括如下:
基础模型基于大量文本数据进行训练,没有针对任何具体任务进行微调;3140 亿参数的 MoE 模型,在给定 token 上的激活权重为 25%;2023 年 10 月,xAI 使用 JAX 库和 Rust 语言组成的自定义训练堆栈从头开始训练。此外,从事件催化上看,3 月 22 日,北京国家会议中心将举办2024年昇思人工智能框架峰会。
兴业证券表示,“人工智能+”首次写入政府工作报告,工信部表态适度超前建设算力等基础设施,AI 大模型、AI 安全等也成为两会关注热点。AI 产业各环节有望得到政府预算保障,可持续重点关注 AI 产业发展,把握相关投资机会。
本文首发自萝卜投研
既然Grok 语言模型那么先进,为什么特斯拉车机语音那么差啊
开源第一狠人马斯克,秒杀范德彪