马斯克自曝Grok 2将于下月上线!Grok 3也在加紧训练中...
马斯克真是的世界上精力最旺盛的富豪之一,他一面进行着火箭计划,一面加紧研发新能源车的步伐,还在百忙之中抽空在自己的社交软件上宣布“Grok 2将于下月上线”的重大消息。
同时完成好几件工作,马斯克算是把“多线作战”玩的明明白白的了。
连发两条推文为xAI造势!8月发布Grok 2,年底将推出Grok 3...
就在最近,深谙营销和宣传之道的马斯克在自己的推特上连发两条推文,为自己的xAI造势。
大家都知道,xAI由马斯克建立,它致力于构建通用人工智能,其目标是“了解宇宙的真实本质”。事实上,xAI的出现是带着“使命感”的,就是要与谷歌的DeepMind,ChatGPT的制造商OpenAI等行业领导者进行竞争。
马斯克本人也与当下的AI 巨头公司OpenAI之间存在着错综复杂的关系。他曾是OpenAI的联合创始人和早期支持者,后来因为尝试收购OpenAI失败以及利益冲突而离开了公司。如今,马斯克已经公开表示与OpenAI的CEO Sam Altman关系不合,更严厉斥责该公司和Altman“只顾利润,不顾安全”的态度,他甚至对OpenAI发起了起诉。
2023年3月,xAI推出了Grok的第一代版本Grok-1模型,Grok-1是由xAI从头开始训练的3140亿参数专家混合模型,其参数远超OpenAI GPT-3.5的1750亿,并且是Llama 2的4倍。4月16日,xAI乘胜追击,效率极高的推出了升级版的Grok 1.5V,在性能上拥有了显著的提高。它不仅拥有强大的文本功能,还能处理各种视觉信息,包括文本,图像,文档以及表格内容。特别是在理解物理世界方面,Grok-1.5V的表现优于其他同类产品。
而在推特上进行回帖的马斯克表示,xAI的大语言模型Grok 2将于8月推出。并且马斯克为大家划重点:在数据训练方面将有大跨步。与此同时,他还透露,xAI的Grok 3使用了10 万块英伟达H100芯片进行训练,预计将于年底发布,相信它会“非常特别”。
Grok 2还没推出,就已经开始为Grok 3造上势了,不得不说,马斯克的确是懂流量的。
Grok 2的最大看点:数据训练飞跃,或有效解决“人体蜈蚣效应”。
值得一提的是,马斯克宣布Grok 2将在8月推出这条回帖的原帖也颇有意味。
原帖中,Cohere首席执行官Aidan Gomez表示,由于许多人工智能模型都是根据OpenAI的输出结果进行训练的,因此会产生“人体蜈蚣效应”,即模型会产生相同的输出结果。对于这一现象,使用大语言模型的用户应该深有体会。譬如一位网友就发现,自己虽然付了GPT-4和Claude两份的钱,却得到了同一份相同的答案,还都是错误的答案。
这条负面消息一出,可是个千载难逢的抹黑GPT的机会,马斯克自然不会错过。毕竟,他与OpenAI之间的战火弥漫了4个月,已经到了水火不容,势不两立的境地。
借着这个机会,马斯克一方面对OpenAI进行狠狠拉踩,另一方面乘胜追击,为即将推出的Grok 2造势。他发帖表示,从互联网语料中清除掉LLM合成的错误数据,形成高质量数据集需要大量的工作,而8月份推出的Grok 2将是这方面的巨大进步。马斯克的消息一出,立刻受到了大批网友和粉丝的拥趸,大家纷纷表示,要转投这个出身豪门的Grok的怀抱。
毕竟,背靠大树好乘凉。即便是在花钱如流水的AI领域,xAI的资金实力也算是遥遥领先的。早在今年5月,xAI就官宣拿到60亿美元(折合约435亿人民币)的B轮融资,估值达到约180亿美元(折合约1304亿人民币) ,一举跃升独角兽。本轮融资的主要投资者包括特斯拉和SpaceX的首批投资者Antonio Gracias领导的Valor Equity Partners;迪拜投资公司Vy Capital;美国私人风投Andreessen Horowitz及Sequoia Capital;风投公司Fidelity Management&;Research Company;沙特王国控股公司Kingdom Holding等。
反观xAI的最强劲竞争对手OpenAI,在过去10年间获得融资总额为143亿美金,在xAI之下。有了这笔资金的加持,xAI瞬间拥有了“钞能力”,将有助于xAI加速其聊天机器人Grok的开发和迭代,使其与OpenAI的GPT,Meta的Llama,Anthropic的Claude以及Google的Gemini等人工智能领导者的大模型表现保持一致,甚至实现一定程度的领先和反超。
豪掷40亿美元买10万个H100训练模型,只为让Grok 3于年底惊艳亮相。
根据马斯克的说法,xAI给大家带来的惊喜绝不只是Grok 2,拥有更强性能和表现的Grok 3也将于年底亮相。
要说Grok 3有什么特点,最显著的一个当属身家特别壕。
马斯克透露,Grok 3会在“经过10万个英伟达H100 GPU的训练后,成为特别的东西”。
10万个H100 GPU意味着什么?要知道,科技公司都在竞相打造更加智能的AI产品,在这场扩日持久的科技战中,H100会成为当仁不让的香饽饽。
作为打造AI产品时必不可缺的关键组件,热门商品H100 GPU的价格自然是不便宜,每块的成本都在3万美元----4万美元之间。
而马斯克居然为了训练Grok 3买了10万个H100 GPU,这是个什么概念?这意味着这笔订单的价格会达到10位数的天价,英伟达也会因此赚得盆满钵满。
当然,也存在一个可能,就是xAI并没有直接购买这一批芯片。而是从云服务提供商租用GPU进行计算,这也是可能的。根据The Information在5月份的报道,马斯克的xAI与甲骨文公司进行了洽谈,准备斥资100亿美元租用云服务器。
但无论如何,有一点毋庸置疑,马斯克的xAI近年来直接购买了大量的H100,是英伟达的忠实客户。就连特斯拉官方,也将原定用于特斯拉的一批价值5亿美元的英伟达H100转用于xAI。
即便Grok 2和Grok 3都还没有问世,我们完全可以预见,Grok 2的性能会比先前的Grok 1.5有显著的提升,而基于10万个GPU训练的Grok 3势必会比Grok 2更上一层楼(Grok 2大约需要2万张H100拉进行训练)。
那么问题来了,手握10万个GPU,是否意味着马斯克和他的xAI可以在下一轮AI产品迭
代中遥遥领先,高枕无忧了?
显然不能。因为在AI这个领域,没有最卷,只有更卷。
10万个GPU听起来确实很多,但是,其他的AI巨头正在购买更多的GPU。有消息称,Meta
将在2024年底向英伟达采购约35万个英伟达H100 GPU。届时,包括已经采购的和其他
GPU,Meta将拥有约60万个芯片。也就是说,Meta会花费约180亿美元打造AI芯片。
由此可见,AI的这场军备赛,会日趋白热化。
扫一扫,或长按识别二维码
关注贝塔网官方微信公众号
我们有直面错误的勇气,点击按钮即可发言。
您也可以邮件:
prnews@iresearch.com.cn