華為發(fā)布全新昇騰AI計算集群 支持超萬億參數(shù)大模型訓(xùn)練
微新創(chuàng)想(idea2003.com)9月20日 消息:華為在全聯(lián)接大會2023期間發(fā)布了全新架構(gòu)的昇騰 AI 計算集群 Atlas900SuperCluster,該集群可支持超萬億參數(shù)的大模型訓(xùn)練。
該集群采用了全新的華為星河 AI 智算交換機 CloudEngine XH16800,并使用了創(chuàng)新的超節(jié)點架構(gòu),大大提升了大模型訓(xùn)練能力。
此外,華為還發(fā)布了更開放、更易用的 CANN7.0,讓開發(fā)者可以更直接地調(diào)用和管理計算資源,使大模型具備差異化的競爭力。華為還升級了 Ascend C 編程語言,提供更高效的編程方式。
該集群還通過提升系統(tǒng)可靠性,將大模型訓(xùn)練的穩(wěn)定性從天級提升到月級。