“百模大戰(zhàn)”導(dǎo)致算力租賃猛增超算架構(gòu)為大模型提速

2023-07-11 18:35:03 編輯：來源：

導(dǎo)讀 2023世界人工智能大會期間，北京超級云計算中心CTO甄亞楠表示：目前主流的大模型訓(xùn)練是超算使用模式，超算相比云計算更加貼和大模型訓(xùn)練場...

2023世界人工智能大會期間，北京超級云計算中心CTO甄亞楠表示：“目前主流的大模型訓(xùn)練是超算使用模式，超算相比云計算更加貼和大模型訓(xùn)練場景，服務(wù)器之間的計算帶寬配比更大，是目前主流云計算環(huán)境中的計算網(wǎng)絡(luò)帶寬的數(shù)10倍，數(shù)據(jù)傳輸效率要求更高。”

北京超級云計算中心計劃在2023年下半年陸續(xù)上線3萬余張能夠滿足大模型訓(xùn)練場景使用的GPU卡，搭建超算盤古大模型算力矩陣，并且會組建一支7×24小時的技術(shù)服務(wù)團(tuán)隊。在算力快速增長的市場上，只有合理的利用資源，抓住時刻，才有可能會在市場上占據(jù)更多的位置。北京超算力會，通過算力預(yù)測判斷用戶真正需要的算力資源，基于算力選型，可以保證用戶擁有可用的算力資源。