澳洲服务器能耗增加两倍! AI最后的战斗不是算力,而是电? (合影)

在澳大利亚澳洲新闻




算力和能耗双双发出警报。

算力是AI世界发展的基础,而算力的瓶颈归根到底是电。训练 ChatGPT 等大型 AI 模型需要多少电量?

7月15日,根据数字信息世界发布的最新报告,用于训练AI模型的数据中心的能耗将是传统云工作的三倍。预计到2030年,美国数据中心的电力消耗需求将以每年10%左右的速度增长。

服务器能耗翻三倍!最终AI拼的不是算力,而是电?(合影)- 1

数据显示,OpenAI训练GPT-3消耗1.287吉瓦时的电力,大致相当于120个美国家庭一年的用电量。而这还只是训练AI模型的初始功率,仅占模型实际使用时消耗功率的40%。

2023年1月,OpenAI仅用一个月就消耗了17.5万个丹麦家庭一年的用电量。谷歌AI每年消耗2.3太瓦时的电力,相当于亚特兰大所有家庭一年的用电量。

据了解,AI服务器的功率比普通服务器高6-8倍,这也会增加对电源的需求。通用服务器原本只需要两个800W服务器电源,而AI服务器的需求则直接升级为四个1800W大功率电源,服务器的能耗成本直接从3100元飙升至12400元,增加三倍。

服务器能耗翻三倍!最终AI拼的不是算力,而是电?(合影)- 2

数据中心客户还需要支付更多的电费。市场研究公司 Synergy Research Group 首席分析师 John Dinsdale 表示,数据中心运营商正在将运行人工智能应用程序的额外成本直接转嫁给客户。

一些数据中心运营商利用机会提高商业租赁价格,以弥补运行能源密集型工作负载的计算机服务器的供电和冷却堆栈的额外成本。

根据全球最大的商业地产服务公司之一世邦魏理仕集团的统计,数据中心的客户范围从小型企业到大型云服务提供商,目前消耗电力的速度比数据中心运营的速度还要快提供商可以扩展容量。由于人工智能用例的增加,供应限制日益增加,这给数据中心的收费带来了上行压力。

在电力需求强劲的情况下,据世邦魏理仕统计,今年前三个月,美国北弗吉尼亚州数据中心客户每月每千瓦电支付的费用高达140美元,与去年同期的130美元相比,增长了7.7%。

服务器能耗翻三倍!最终AI拼的不是算力,而是电?(合影)- 3"功耗“大模型”

根据咨询机构Tirias Research的模型预测,到2028年数据中心的能耗将接近4250兆瓦,比2023年增长212倍,总数据中心基础设施加上运营成本超过 760 亿美元。

这可以称为“生成式人工智能颠覆数据中心”,其增长挑战了与生成式人工智能相结合的搜索、内容创建和业务自动化等新兴服务的商业模式和盈利能力。其成本是亚马逊AWS年运营成本的两倍多。该机构表示,生成式人工智能带来的创新功能是以高处理性能和功耗为代价的。因此,虽然人工智能的潜力可能是无限的,但物理和成本最终可能是界限。

为了降低成本,该机构建议可以采用高度优化、更加简单、更加专业的小规模神经网络模型,通过减小云端模型大小、集成海量数据来降低数据中心成本。参数网络用于快速训练较小的模型并将工作负载完全移出云端,从而使分发生成式人工智能应用程序在智能手机、PC、车辆和移动 XR 产品等分布式平台上运行更具成本效益:

天下没有免费的午餐——消费者会要求更好的生成式人工智能输出,而这将抵消效率和性能的改进。随着消费者使用量的增加,成本将不可避免地上升。将计算卸载到边缘并将其分配给 PC、智能手机和 XR 设备等客户端是降低资本和运营成本的关键。”

如今,全球群体模型战争需要能源和设备的消耗。可想而知,中国产生的碳排放量是巨大的。

按照目前的技术路线和发展模式,人工智能的进步会带来两个问题:一方面,数据中心的规模会越来越大,其功耗也会相应增加,并且操作会变得越来越困难。慢一点。

另一方面,AI芯片正在向高算力、高集成度方向演进,依靠制程技术支撑峰值算力的增长。大的。而且,受摩尔定律的制约,传统计算能力已接近极限,面临冯·诺依曼架构瓶颈和物理扩展的挑战。

这两个问题都会导致更加严重的AI能耗问题。

服务器能耗翻三倍!最终AI拼的不是算力,而是电?(合影)- 4开始算力竞赛战争

巨大的电力需求无疑会给数字基础设施带来进一步的压力,现有的数据中心已经无法满足AI日益增长的电力需求。

去年,弗吉尼亚州北部的数据中心遭遇停电危机,能源问题迫在眉睫。

为了解决人工智能能源消耗不断上升的问题,数字基础设施公司DigitalBridge正计划斥资数十亿美元建设和翻新用于生成人工智能工作负载的数据中心。

数字信息世界认为,下一代数据中心将比目前弗吉尼亚州和圣克拉拉的数据中心设施更加全面。该位置应位于电力供应不成问题的低成本区域。为了满足人工智能的计算能力需求,数据中心运营商必须适应并采用新颖的解决方案。

随着人工智能军备竞赛的升温,权力争夺变得越来越重要。

“生成式AI颠覆数据中心”,电力需求对各大企业的商业模式和盈利能力提出挑战。生成式人工智能实现的创新在处理性能和功耗方面付出了高昂的代价。

因此,虽然人工智能的潜力可能是无限的,但物理和成本最终可能是界限。科技公司正在尝试一切可能的策略来确保电力需求,并为变革性的能源未来奠定基础。

本文不构成个人投资建议,也不代表平台观点。市场有风险,投资需谨慎。请您独立判断并做出决定。

开始电力之战


澳洲中文论坛热点
悉尼部份城铁将封闭一年,华人区受影响!只能乘巴士(组图)
据《逐日电讯报》报导,从明年年中开始,因为从Bankstown和Sydenham的城铁将因Metro South West革新名目而
联邦政客们具有多少房产?
据本月早些时分报导,绿党副首领、参议员Mehreen Faruqi已获准在Port Macquarie联系其房产并建造三栋投资联

中文新闻,澳洲经济,时事,华人论坛动态,悉尼本地消息,墨尔本,珀斯,布里斯班,澳洲新闻,澳大利亚华人网,澳洲华人论坛

澳洲新闻

ATO重启债务,数十万人退税或减少

澳大利亚在澳大利亚税务局重新启动其搁置的债务后,近30万澳大利亚人收到的退税可能比他们想象的要少,有些人的退税将被完全取消。 与此同时,数以千计的中低收入者的退税额因单独的改 ...

澳洲新闻

输球后,科尔向俱乐部队友赠送球衣

澳大利亚周三晚上,澳大利亚队在半决赛中输给了英格兰队,萨姆·科尔的世界杯梦想破灭了。 这位超级巨星在球场上为她付出了一切。 比赛结束后,当科尔开始心碎时,一名对方球员上前安慰 ...

澳洲新闻

患有糖尿病的离婚男性截肢风险更高

澳大利亚研究发现,在糖尿病患者中,离婚男性因该疾病而截肢的风险最高。 在糖尿病患者中,离婚者下肢截肢的可能性比已婚者高 67%。男性的风险比女性高 57%。 这是瑞典对 66,569 名糖尿病患 ...

澳洲新闻

今年近30万澳大利亚人的退税可能消失

澳大利亚在税务局重新启动之前暂停的债务后,近 30 万澳大利亚人获得的退税额将比他们想象的要少,有些人的退税额可能会完全消失。 与此同时,对中低收入纳税人的税收补贴逐渐减少,而生 ...

澳洲新闻

全国各地的最新 Covid 统计数据

澳大利亚ACT:本周 ACT 新增 175 例病例,其中 45 例为 PCR 病例,130 例为 RAT 病例。九人住院,无人入住重症监护室。零死亡 新南威尔士州:截至 8 月 17 日当周新增病例 2123 例,高于前一周的 199 ...

澳洲新闻

澳大利亚面临被世界游泳队开除的命运

澳大利亚澳大利亚面临被世界游泳队开除 世界游泳协会表示,如果管理问题得不到解决,它将取消澳大利亚游泳协会的会员资格,这意味着运动员将不得不以中立者的身份参加世界赛事。 此前, ...