百度部署10万卡集群，一天消耗300万千瓦时电力

9月25日，在2024百度云智大会上，百度智能云宣布将百舸AI异构计算平台全面升级至4.0版本。在集群部署环节，升级后的百舸能够将万卡集群运行准备时间从数周最快缩减至1小时，长文本推理效率提升了1倍以上。百度集团执行副总裁沈抖透露，百舸4.0版本面向10万卡大规模集群部署而设计，但管理10万卡的集群与管理万卡集群有本质不同。要部署10万卡这么大规模的集群，光是在物理层面就要占据大概10万平方米的空间，相当于14个标准足球场的面积。在能耗方面，这些服务器一天就要消耗大约300万千瓦时的电力，相当于北京市东城区一天的居民用电量。（第一财经）

文章转载自：互联网，非本站原创

　　免责声明：本文由用户上传，与本网站立场无关。财经信息仅供读者参考，并不构成投资建议。投资者据此操作，风险自担。 如有侵权请联系删除！