硬刚ChatGPT,英伟达推出免费AI聊天系统,所有电脑变成AI电脑?

沧海月明猪也累 2024-02-24 00:36:35

随着美国AI巨头Open AI推出ChatGPT智能AI聊天问答系统以来,全球互联网大厂纷纷跟进,前有谷歌和扎克伯格的Meta争先效仿,随后又有百度的文心一言实力出圈,AI赛道已经“人满为患”,竞争日趋激烈,以至于不少电子硬件产商都开始按捺不住,争先入局。

近日,一向踏踏实实造芯片攒硬件的英伟达推出了一款名为“Chat with RTX”的本地AI聊天服务,引发了不少业内人士的据悉,区别于ChatGPT等线上AI聊天,英伟达的“Chat with RTX”借力于其强大的RTX 30以及RTX 40系列显卡,可为用户提供无需互联网连接的个性化GPT聊天体验。

仅需有一款搭载英伟达RTX 30和40系列显卡的Windows电脑,用户就可以免费下载这款英伟达推出的AI应用,让自己的个人PC秒变AI电脑,即便是老款电脑,亦能在如今各电脑厂商争先推出AI PC的浪潮中涅槃重生。

遭Open AI等AI公司“围剿”,英伟达果断亮剑

近年来,AI人工智能的热潮经久不衰,大模型算力需求大增,令GPU芯片巨头英伟达旗下的AI芯片成了抢手货,一时之间供不应求。据悉,以主打的 H100芯片为例,其价格已经飙升至2.5万至3万美元,AI硬件成本持续上涨,令不少AI大数据公司苦不堪言。

根据前不久Open AI方面发布的消息显示,这家推出ChatGPT等跨时代应用的AI大厂,每训练一次AI大模型,就需要2.5万块英伟达芯片,随着英伟达A100以及H100芯片售价的飙升,ChatGPT单次查询的成本,也已经提高到0.04美金。如果要让ChatGPT的能力媲美谷歌搜索,Open AI在AI芯片领域,至少还需要投入481亿美元,而且每年还需要承担约160亿美元芯片的维护及更换成本。

毫无疑问,这些持续的芯片需求,最终大概率将花落英伟达,毕竟,目前英伟达已经牢牢占据数据中心AI市场98%的市场份额,相比之下,其他传统芯片大户,比如英特尔与AMD,市占份额都还不到英伟达的零头。

贵也就罢了,关键是全球AI以及互联网大厂们,此时都在哄抢英伟达的AI芯片,然而,一家公司的产能是限的,英伟达的芯片交由台积电代工,大批量的出货也不可能一蹴而就。这就导致像OpenAI这样的大模型厂商,不论在成本和需求满足上,都陷入了被英伟达“卡脖子”的窘境。

为了满足自身硬件需求,并实现更安全和更长期的成本管控,减少对英伟达的过度依赖,OpenAI创始人萨姆奥特曼不久前飞赴韩国,同三星、SK海力士等半导体大厂洽谈合作,准备生产自己的AI芯片。

而除了OpenAI的“造芯计划”之外,科技巨头Meta也在近日对外证实,扎克伯格已经计划在其数据中心部署最新的自研数据芯片。据外界估计,以Meta的运营规模,一旦大规模部署自研芯片,将为其节约每年数十亿的芯片采购成本。

截止到当前,微软、英特尔、AMD等科技巨头和芯片龙头都已经开始了轰轰烈烈的造芯运动,而对标英伟达AI芯片的企业数量,就超过20家,这些造芯势力背后的投资商,不乏像红杉资本、OpenAI、五源资本、字节跳动等实力雄厚的金主。即便黄教主的英伟达不会被“杀死”,那也将面临全球数十家AI公司的“围剿”。

面临OpenAI等公司的威胁,黄仁勋的英伟达自然也不可能坐以待毙:既然你们铁了心要自研芯片做AI模型,那我索性直接为我的终端客户直接提供AI服务!

于是,英伟达果断亮剑,推出了基于RTX30以及40消费级显卡的“Chat with RTX”,充分展露了这家芯片大厂在AI数据领域的不俗实力。

较量ChatGPT,黄教主能赢吗?

早在萨姆奥特曼决议造OpenAI自己的芯片开始,外界就已经预料到,AI领域,黄仁勋与奥特曼必有一战,只不过我们都没有想到,英伟达的反击来得这么快!

对比大众较为熟悉的ChatGPT,“Chat with RTX”不但可供完全免费使用,甚至可以添加特定的URL,如YouTube视频,乃至整个播放列表,从而增强数据集的搜索结果。将比ChatGPT,“Chat with RTX”所得到的结果将完全基于指定的数据集,相比于在线方法,能够提供更准确的答复。

此外,由于支持TensorRT-LLM端口,英伟达旗下的“Chat with RTX”让将用户数据和项目保留在本地,避免存储至云端。这样不但可以节省时间,提供更加精准的结果,还能更大程度地保护用户的个人数据与隐私。

值得一提的是,“Chat with RTX”支持本地文档搜索服务,还能为PC用户提供比Windows自带搜索功能更为强大和精准的文件索引能力,而基于用户个人习惯的定制化服务,让用户在使用自己电脑的时候,显得更加得心应手。

诚然,这款基于英伟达RTX30及40显卡的本地AI应用,着实将给ChatGPT等AI大模型带来一定冲击,不过同目前联想、戴尔等主流PC厂商装载英特尔Ultra CPU推出的AI电脑一样,英伟达的“Chat with RTX”需要依托其RTX30以及40系列消费级显卡的硬件加持。

虽说黄教主有了将所有电脑变成AI电脑的能力,也为PC行业融入AI浪潮提供了一条新的思路,但不同于ChatGPT等线上应用,要想体验“Chat with RTX”,还得先买英伟达的显卡。

所以,现在谈论黄教主能否干得过ChatGPT,还为时尚早,毕竟,显卡教父推出的“Chat with RTX”,目前看起来更像是消费者买显卡的附赠AI服务,未来“Chat with RTX”如何发展,我们暂时还不得而知。

1 阅读:168

沧海月明猪也累

简介:科技发烧+人文军事历史爱好者