玩酷网

记得之前介绍过的知乎大佬PENG Bo搞得RWKV大模型吗?走了一条独特的技术路

记得之前介绍过的知乎大佬PENG Bo搞得RWKV大模型吗?走了一条独特的技术路线(魔改RNN,非Transformer架构的大语言模型),算是比较小众的大模型。

现在其技术社区发现微软不声不响的把这个大模型内置到了windows11里,一下子成了部署量最多的大模型之一了。具体用的是github.com/RWKV/rwkv.cpp 这个对CPU推理友好的项目。社区推测原因可能是该模型相对于Transformer架构的能耗更低,微软还没联系过他们。