語種
中文簡體 中文繁體 English
營業(yè)廳
網(wǎng)上營業(yè)廳 掌上營業(yè)廳
返回頂部
中國電信邵廣祿:面向AI大模型的智算集群及網(wǎng)絡(luò)的實(shí)踐和展望
2024-08-07 中國電信
分享:
   

近日,高性能計(jì)算與人工智能協(xié)同創(chuàng)新國際論壇(英文簡稱:HACI)在深圳舉辦,中國電信科技委主任邵廣祿應(yīng)邀出席會議,分享了中國電信在智算集群和網(wǎng)絡(luò)方面的實(shí)踐與思考。

“算力是人工智能發(fā)展的重要驅(qū)動力,影響著大模型的迭代和創(chuàng)新的速度,也影響著經(jīng)濟(jì)發(fā)展的速度?!鄙蹚V祿介紹到,在智算方面,中國電信重點(diǎn)推進(jìn)兩項(xiàng)工作,一是建成大規(guī)模智算集群,目前上海、北京兩個萬卡集群已經(jīng)投產(chǎn)。面向AI大模型訓(xùn)練的智算集群,需要從IDC向AIDC升級,重點(diǎn)圍繞模型算力利用率MFU、線性加速比、穩(wěn)定性、時延、丟包率、GPU利用率等六大關(guān)鍵指標(biāo),持續(xù)開展智算集群的設(shè)計(jì)、建設(shè)、運(yùn)營、優(yōu)化等工作,提高大模型訓(xùn)練的效率效能。二是用智算網(wǎng)絡(luò)和算力調(diào)度平臺實(shí)現(xiàn)全國算力資源的互聯(lián)互通,按需調(diào)用,自研“息壤”算力調(diào)度平臺,已實(shí)現(xiàn)全國21EFlops的算力調(diào)度。中國電信積極探索“云、網(wǎng)、智”的融合技術(shù),致力于打造彈性超寬、高速無損、“云、邊、端”全域調(diào)度的智能算力網(wǎng)絡(luò),滿足不同企業(yè)、不同行業(yè)對大模型訓(xùn)練和推理的差異化需求。

邵廣祿表示,中國電信已經(jīng)從電信運(yùn)營商升級到電信+云計(jì)算的運(yùn)營商。在AI時代,中國電信還將升級為智算服務(wù)商和大模型服務(wù)商,提供算力服務(wù)和模型服務(wù)。

邵廣祿指出,算力的網(wǎng)絡(luò)化成為發(fā)展方向,并倡議:一是推動算力生態(tài)的開源開放,為異構(gòu)算力互通提供基礎(chǔ)的開發(fā)環(huán)境,以統(tǒng)一標(biāo)準(zhǔn)對接各類異構(gòu)硬件,方便大模型在異構(gòu)算力間自由切換。二是推進(jìn)共建共享。生成式人工智能是重大的科技創(chuàng)新和產(chǎn)業(yè)變革,需要早布局、快推進(jìn),需要學(xué)術(shù)界和產(chǎn)業(yè)界以戰(zhàn)略眼光強(qiáng)化合作,集中力量突破底層技術(shù),推動產(chǎn)業(yè)創(chuàng)新和產(chǎn)業(yè)生態(tài)建設(shè)。

掃一掃在手機(jī)打開當(dāng)前頁