澳洲Nvidia的AI芯片劲敌来了! AMD推出MI300X,最高可运行800亿参数模型(图)

在澳大利亚澳洲新闻




AMD的“终极武器”来了!

美国东部时间6月13日,AMD在“AMD数据中心与人工智能技术首映式”上宣布,即将推出迄今为止最先进的人工智能GPU MI300X芯片。该芯片加快了 ChatGPT 和其他聊天机器人使用的生成人工智能的处理速度,并可使用高达 192GB 的内存。 MI300X的HBM密度高达NVIDIA AI芯片H100的2.4倍,HBM带宽高达H100的1.6倍,可运行的模型比H100更大。此外,AMD发布的其他新品也吸引了硅谷巨头:亚马逊云使用四代EPYC处理器打造实例; Microsoft Azure 推出配备 Genoa-X CPU 的新实例; Meta 计划使用 AMD 的新云芯片 Bergamo。

相比之下,Nvidia的H100芯片只支持120GB内存,市场普遍认为,这意味着英伟达在这个新兴市场的主导地位或将受到挑战。 MI300X 将于今年晚些时候开始向部分客户发货。 AMD CEO Lisa Su 也介绍了 MI300X 可以支持 400 亿参数的 Hugging Face AI 模型运行,并展示了这个 LLM 可以写一首关于旧金山的诗。这是世界上第一次在单个 GPU 上运行如此大的模型。 单个 MI300X 可以运行一个具有多达 800 亿个参数的模型。

尽管投资者预计 AMD 将与 Nvidia 竞争在AI芯片领域,分析师并没有追随AMD的浪潮,而是理智地指出,AMD要挑战英伟达在人工智能芯片领域的行业领导地位还有很长的路要走,单靠这款芯片是做不到的.

在一份新报告中,花旗芯片分析师 Chris Danely 表示,AMD 的 MI300 芯片看似是一个巨大的设计胜利,但鉴于性能限制和失败历史,他非常关注图形/CPU IC可持续性,“虽然我们预计 AMD 将继续从英特尔手中夺取市场份额,但其热那亚新产品的增长速度似乎低于预期”。

同日,Cambrian-AI Research LLC创始人兼首席分析师Karl Freund也在福布斯发文称,虽然AMD的新芯片引起了市场各方的极大兴趣,但并不兼容与英伟达。与H100芯片相比,小米300X面临一些挑战,主要有以下四个方面:

第一,Nvidia的H100今天开始全面出货;到目前为止,Nvidia 仍然拥有 AI 行业和研究人员生态系统中最大的软件。

其次,虽然MI300X芯片提供了192GB的内存,但Nvidia很快就会在这一点上赶上,甚至可能在同一时间段内反超,所以这并不是一个巨大的优势。而且MI300X的价格会非常高,和Nvidia的H100相比不会有明显的成本优势。

第三个才是真正的关键:MI300没有H100那样的Transformer Engine(NVIDIA GPU上加速Transformer模型的库),H100可以将large language model(LLM)性能提升一倍.如果用几千个(Nvidia 的)GPU 训练一个新模型需要一年时间,那么在 AMD 的硬件上训练可能还需要 2-3 年,或者投资 3 倍的 GPU 来解决问题。

最后,AMD 尚未披露任何基准测试。但训练和运行 LLM 时的性能取决于系统设计和 GPU,因此预计今年晚些时候会与竞争对手进行一些比较。

不过,Freund 还补充说,MI300X 可能会成为 Nvidia 的 GH200 Grace Hopper 超级芯片的替代品。像 OpenAI 和微软这样的公司需要有这样的替代方案,虽然他怀疑 AMD 会向这些公司提供他们无法拒绝的报价,但 AMD 不会从 Nvidia 那里夺走很多市场份额。

今年以来,AMD的股价上涨了94%。昨日,美股收跌3.61%,同业英伟达收涨3.90%,市值首次收于万亿美元大关。

事实上,英伟达的领先地位不仅来自其芯片,还来自其十多年来为人工智能研究人员提供的软件工具。 “尽管 AMD 在硬件性能方面具有竞争力,但人们仍然不相信它的软件解决方案可以与 Nvidia 竞争,”Moor Insights & Strategy 分析师 Anshel Sag 说。

有望带动科技企业良性竞争发展

美国科技评论家比利·杜伯斯坦12日指出,随着ChatGPT的流行,人工智能似乎开辟了新的领域,许多行业的龙头企业展开了一场争夺市场的竞争分享。无论是 Nvidia 还是 AMD 赢得比赛,每家科技公司都将从中受益。

Duberstein表示潜在客户对MI30感兴趣0 很感兴趣。他在 6 月 8 日引用数字时代的一篇文章说,数据中心客户正在吵着要寻找 Nvidia 的替代品。 Nvidia 目前在人工智能 GPU 的高利润、高增长市场占据主导地位,在 AI 服务器中占据 60% 至 70% 的市场份额。

Duberstein接着指出,鉴于目前Nvidia H100服务器的价格居高不下,数据中心运营商希望看到Nvidia有第三方竞争对手,这将有助于降低AI芯片的价格。所以这对 AMD 来说是一个巨大的优势,对 Nvidia 来说是一个挑战。这为每个市场参与者带来了良好的盈利能力。

上个月,摩根士丹利分析师约瑟夫摩尔调整了对AMD人工智能收入的预测,称其可能比最初预期高出“数倍”。

中国企业有望继续受益于GPU的竞争AI产业链

目前,全球各大科技公司都在争抢AI门票。与海外巨头相比,中国科技巨头对GPU的采购更为迫切。

据《晚点晚报》报道,今年春节过后,中国各大拥有云计算服务的互联网公司都纷纷向英伟达下了大单。今年字节跳动已经向英伟达订购了超过10亿美元的GPU,而另一家大公司的订单至少也超过了10亿元人民币。而单是今年的字节序,就可能接近英伟达去年在中国销售的商用GPU的总和。

国金证券表示继续看好AMD在AI产业链上的新动作。该机构认为,生成式人工智能的持续流行推动了对人工智能芯片的强劲需求。英伟达第二季度数据中心业务指引超出预期。台积电4nm、5nm、7nm产能利用率大幅提升,就是最好的证明。

国金证券指出,根据产业链研究,光模块-DSP芯片龙头厂商表示未来AI相关业务有望快速增长;增加。服务器PCIe Retimer芯片龙头企业表示,第三季度需求加速,逐季增长。因此,我们看好2024-2025年AI新产品的推出,AI产业链有望持续受益。


澳洲中文论坛热点
悉尼部份城铁将封闭一年,华人区受影响!只能乘巴士(组图)
据《逐日电讯报》报导,从明年年中开始,因为从Bankstown和Sydenham的城铁将因Metro South West革新名目而
联邦政客们具有多少房产?
据本月早些时分报导,绿党副首领、参议员Mehreen Faruqi已获准在Port Macquarie联系其房产并建造三栋投资联

中文新闻,澳洲经济,时事,华人论坛动态,悉尼本地消息,墨尔本,珀斯,布里斯班,澳洲新闻,澳大利亚华人网,澳洲华人论坛