【資料圖】
【太平洋科技資訊】9月21日消息,近日,在華為全聯(lián)接大會(huì)2023上,華為常務(wù)董事汪濤正式發(fā)布了全新架構(gòu)的昇騰AI計(jì)算集群Atlas 900 SuperCluster。這個(gè)新的計(jì)算集群具有強(qiáng)大的處理能力,可以支持超萬(wàn)億參數(shù)的大模型訓(xùn)練。
Atlas 900 SuperCluster的出現(xiàn),是華為在人工智能計(jì)算領(lǐng)域的一次重大突破。新集群采用了華為全新的星河AI智算交換機(jī)CloudEngine XH16800,這款交換機(jī)擁有高密的800GE端口能力,通過(guò)兩層交換網(wǎng)絡(luò),就能實(shí)現(xiàn)2250節(jié)點(diǎn)(等效于18000張卡)超大規(guī)模無(wú)收斂集群組網(wǎng)。
此外,新集群還采用了創(chuàng)新的超節(jié)點(diǎn)架構(gòu),這一架構(gòu)的使用,極大地提升了大模型訓(xùn)練能力。同時(shí),華為也充分發(fā)揮了在計(jì)算、網(wǎng)絡(luò)、存儲(chǔ)、能源等領(lǐng)域的綜合優(yōu)勢(shì),從器件級(jí)、節(jié)點(diǎn)級(jí)、集群級(jí)和業(yè)務(wù)級(jí)全面提升系統(tǒng)可靠性,將大模型訓(xùn)練穩(wěn)定性從天級(jí)提升到月級(jí)。
在這次大會(huì)上,華為還發(fā)布了更開(kāi)放、更易用的CANN 7.0異構(gòu)計(jì)算架構(gòu)。這個(gè)架構(gòu)不僅全面兼容業(yè)界的AI框架、加速庫(kù)和主流大模型,還深度開(kāi)放底層能力,讓AI框架和加速庫(kù)可以更直接地調(diào)用和管理計(jì)算資源,使能開(kāi)發(fā)者自定義高性能算子,讓大模型具備差異化的競(jìng)爭(zhēng)力。
為了進(jìn)一步提升開(kāi)發(fā)效率,華為還升級(jí)了Ascend C編程語(yǔ)言,以更高效的編程方式,簡(jiǎn)化算子實(shí)現(xiàn)邏輯,大幅縮短融合算子的開(kāi)發(fā)周期,為AI模型與應(yīng)用的快速開(kāi)發(fā)賦能。
汪濤表示,隨著人工智能進(jìn)入大模型時(shí)代,大算力正在成為人工智能發(fā)展的核心引擎。華為改變傳統(tǒng)的服務(wù)器堆疊模式,以系統(tǒng)架構(gòu)創(chuàng)新打造AI集群,實(shí)現(xiàn)算力、運(yùn)力、存力的一體化設(shè)計(jì),突破大算力瓶頸。
【知多D】
華為在7月7日舉行的HDC.Cloud 2023開(kāi)發(fā)者大會(huì)上,推出一款全新的人工智能產(chǎn)品——盤(pán)古Chat。
關(guān)鍵詞: