生成(cheng)式(shi)AI影響數(shù)據(jù)中(zhong)心架(jia)構(gòu)

人(ren)工智能(neng)（AI）與(yu)機(jī)器學(xué)(xue)習(xí)（ML）正引(yin)領(lǐng)各(ge)行(xing)業(yè)(ye)變(bian)革(ge)，并(bing)應(yīng)對(dui)全球(qiu)性挑戰(zhàn)。如今，新(xin)一代(dai)人工(gong)智能——生成式AI正嶄露(lu)頭角，它借(jie)助(zhu)深度(du)神經(jīng)網(wǎng)(wang)絡(luò)(luo)解(jie)鎖(suo)全新功能。生成式(shi)AI正(zheng)蓄(xu)勢待發(fā)(fa)，將成為數(shù)字(zi)時(shí)代的(de)催化(hua)劑，重塑(su)企業(yè)運(yùn)(yun)營(ying)和社(she)會(huì)運(yùn)作(zuo)的模式(shi)。

領(lǐng)軍(jun)企業(yè)(ye)正(zheng)積(ji)極(ji)引(yin)入(ru)生成(cheng)式AI以獲(huo)取(qu)競(jing)爭(zheng)優(yōu)勢(shi)，公開(kai)的模(mo)型更(geng)是激(ji)發(fā)了(le)市(shi)場需求(qiu)，從而(er)引發(fā)了數(shù)(shu)據(jù)(ju)中心格(ge)局(ju)的(de)巨大(da)轉(zhuǎn)變(bian)——從(cong)超大(da)規(guī)(gui)模數(shù)(shu)據(jù)(ju)中心(xin)到企業(yè)級(ji)數(shù)據(jù)(ju)中心(xin)。面對(dui)數(shù)據(jù)中心在(zai)部署(shu)精密(mi)硬(ying)件(jian)、收集(ji)數(shù)據(jù)及訓(xùn)練模型上(shang)的(de)種(zhong)種挑(tiao)戰(zhàn)(zhan)，一個(gè)核心(xin)議題(ti)浮現(xiàn)(xian)出(chu)來(lai)：我(wo)們該(gai)如(ru)何構(gòu)(gou)建基礎(chǔ)設(shè)(she)施，以(yi)確保其能(neng)支撐(cheng)起(qi)生成(cheng)式(shi)AI技術(shù)復(fù)雜且繁重的(de)運(yùn)(yun)算(suan)需求？

生(sheng)成(cheng)式AI的(de)崛(jue)起驅(qū)(qu)動(dòng)(dong)數(shù)(shu)據(jù)中心(xin)轉(zhuǎn)(zhuan)型(xing)
生(sheng)成(cheng)式AI的(de)訓(xùn)(xun)練過程極為復(fù)(fu)雜，它需(xu)要(yao)從眾多(duo)源(yuan)頭并(bing)行處理(li)龐(pang)大的(de)數(shù)據(jù)集(ji)，并在(zai)同(tong)一(yi)時(shí)(shi)間(jian)內(nèi)執(zhí)行成千(qian)上(shang)萬次的(de)計(jì)(ji)算(suan)。傳統(tǒng)(tong)的(de)CPU（中央處(chu)理(li)器(qi)）服務(wù)器難(nan)以勝(sheng)任(ren)這(zhe)一(yi)重(zhong)任，此(ci)時(shí)，GPU（圖形(xing)處(chu)理器）服(fu)務(wù)器(qi)或節(jié)點(diǎn)便成(cheng)為了關(guān)鍵(jian)。

一個(gè)(ge)龐大(da)的(de)超大規(guī)模(mo)生成式(shi)AI集群可能包含成(cheng)千上(shang)萬個(gè)(ge)互(hu)聯(lián)(lian)節(jié)(jie)點(diǎn)，這些(xie)節(jié)(jie)點(diǎn)(dian)消耗(hao)的功(gong)率(lv)可能是普(pu)通(tong)集群的十倍(bei)之(zhi)多，并通(tong)過高(gao)速(su)、低(di)延遲(chi)的(de)傳(chuan)輸(shu)手段相互連(lian)接(jie)。即(ji)便是企(qi)業(yè)級(ji)集群，也(ye)需(xu)要(yao)多個(gè)(ge)GPU持(chi)續(xù)(xu)滿(man)負(fù)(fu)荷運(yùn)(yun)轉(zhuǎn)(zhuan)來(lai)訓(xùn)(xun)練模型(xing)——而(er)隨著應(yīng)用場景(jing)的不(bu)斷(duan)豐富和(he)效(xiao)益的日益顯(xian)現(xiàn)(xian)，其規(guī)(gui)模(mo)還將(jiang)進(jìn)(jin)一(yi)步(bu)擴(kuò)大。

為確(que)保(bao)生成式(shi)AI的(de)運(yùn)行，數(shù)(shu)據(jù)中心(xin)基礎(chǔ)(chu)設(shè)施(shi)需滿(man)足以下要(yao)求：
? 更高(gao)的帶寬(kuan)與(yu)更低的延(yan)遲 – 后(hou)端(duan)節(jié)點(diǎn)(dian)間(jian)需(xu)支(zhi)持(chi)100G至800G的高速數(shù)(shu)據(jù)傳輸(shu)，并(bing)實(shí)現(xiàn)實(shí)時(shí)(shi)（小于(yu)20毫秒）的(de)東西(xi)向數(shù)(shu)據(jù)流(liu)通，同(tong)時(shí)(shi)前(qian)端(duan)交換機(jī)(ji)需(xu)達(dá)(da)到(dao)800G乃(nai)至(zhi)1.6T的(de)傳(chuan)輸速率(lv)。
? 更強(qiáng)(qiang)的供(gong)電(dian)與(yu)冷卻(que)效能 – 隨(sui)著機(jī)架密(mi)度攀升(sheng)至每(mei)機(jī)架(jia)30-100kW，需要(yao)采(cai)用(yong)更高效(xiao)的(de)冷卻解決方案(an)（比如(ru)液冷(leng)技(ji)術(shù)(shu)）來(lai)應(yīng)對更高(gao)的(de)散熱(re)挑戰(zhàn)(zhan)。
? 先進(jìn)的通(tong)信協(xié)議 – 后(hou)端采用(yong)InfiniBand協(xié)議(yi)以支(zhi)持(chi)節(jié)點(diǎn)間(jian)的高(gao)帶(dai)寬、低延遲(chi)連接(jie)，而前(qian)端(duan)則使用以(yi)太(tai)網(wǎng)協(xié)議來支(zhi)持(chi)交(jiao)換、存(cun)儲(chǔ)和(he)管(guan)理功能(neng)。
? 高密度、高(gao)性能布(bu)線(xian) – 確保(bao)節(jié)點(diǎn)間(jian)連(lian)接、存(cun)儲(chǔ)、管(guan)理(li)和交換(huan)的(de)高(gao)效與(yu)穩(wěn)(wen)定(ding)。

生成(cheng)式(shi)AI解決方(fang)案(an)指(zhi)南(nan)
探索(suo)創(chuàng)新(xin)的(de)網(wǎng)絡(luò)基(ji)礎(chǔ)(chu)設(shè)施(shi)解(jie)決(jue)方案，助(zhu)您(nin)輕(qing)松設(shè)計(jì)(ji)、部署和擴(kuò)展復(fù)雜(za)高性(xing)能(neng)計(jì)(ji)算(suan)AI環(huán)境的(de)后(hou)端(duan)、前(qian)端和(he)存儲(chǔ)(chu)網(wǎng)絡(luò)(luo)結(jié)構(gòu)。