导读 12月17日最新消息,随着人工智能的快速发展,对计算能力的需求也越来越旺盛。英伟达的AI处理器H100非常畅销,每一块H100峰值功耗高达700瓦
12月17日最新消息,随着人工智能的快速发展,对计算能力的需求也越来越旺盛。英伟达的AI处理器H100非常畅销,每一块H100峰值功耗高达700瓦。随着H100被大量部署,有专家预测总功耗甚至会超过一些欧洲小国。
微软数据中心技术治理和战略部门首席电气工程师保罗楚诺克预测,到2024年年底当数百万H100芯片全部部署完成之后,总功耗将会超过美国亚利桑那州凤凰城所有家庭的用电量。如果按照61%的年利用率算,每一块H100每年将会消耗大约3740千瓦时的电量。针对于算力耗能如何应对这个问题,有相关人士指出在控制大模型带来的能耗和成本方面,半导体企业可以通过优化计算结构、提升能效等措施,降低大模型的能耗和成本。