AI算力集群建设成本主要由GPU芯片采购成本、网络设备成本、基础设施成本和运营成本构成。GPU芯片成本占总成本50%-70%,以NVIDIA H100为例,单卡价格约2.5-3万美元。网络设备成本占15%-25%,包括InfiniBand交换机、网卡和线缆,2000卡集群的网络投入可达数百万美元。基础设施成本包括液冷系统(每千瓦冷却成本约1000-1500美元)、高密度机柜、电力增容(每千瓦功率约2000-4000美元)以及场地租赁。运营成本含电力消耗(GPU TDP约700W/卡,年电费超10万/千卡)、维护人员薪资和冷却介质更换费用。对于千卡规模集群,总建设成本通常在3000万-5000万美元区间。
FAQ DETAIL