大模型的發(fā)展，經(jīng)歷第一階段拼算力、關(guān)注基礎(chǔ)模型領(lǐng)先性之后，當(dāng)前已進(jìn)入更務(wù)實(shí)的第二階段，即商業(yè)化落地應(yīng)用，如何將大模型應(yīng)用成本降下來，成為行業(yè)關(guān)注的焦點(diǎn)。
京東云從智算中心開始，邁出大模型降本第一步，通過使用液冷技術(shù)降低制冷開支、引入AI進(jìn)行智能化能耗管理等，幫助客戶將大模型使用成本降下來。
將制冷成本降下來
在智算中心的運(yùn)營上，電費(fèi)占運(yùn)營支出的60%以上，其中很大部分來自于制冷產(chǎn)生的費(fèi)用，優(yōu)化制冷系統(tǒng)，已經(jīng)成為數(shù)據(jù)中心提高能源效率、降低成本的重要環(huán)節(jié)。
液冷作為一種高效、節(jié)能、穩(wěn)定的散熱方式，冷卻劑傳遞熱量的速度是空氣的6倍以上，正在成為智算中心的“標(biāo)配”。
京東云自主研發(fā)的阿爾法智能算力模塊，采用創(chuàng)新性的液冷技術(shù)，可以滿足算力密度從20kW/柜到100kW/柜的部署需求，算力模塊制冷因子CLF低至0.07，即制冷系統(tǒng)能耗只有IT設(shè)備能耗的百分之七，幫助客戶顯著降低制冷能耗。
此外，通過采用EVAC散熱器及液冷技術(shù)，京東云新一代液冷服務(wù)器可使散熱效能提升50%；并基于多元供電方案，在單機(jī)柜20kW的條件下，單機(jī)柜功耗1年可節(jié)省8500度電。
能耗節(jié)省率提上去
智算中心往往功率密度更高，是傳統(tǒng)數(shù)據(jù)中心的5倍以上，對運(yùn)維的要求也呈幾何級增長。
為確保每一瓦特電力都能發(fā)揮最大效用，京東云推出了節(jié)能寶產(chǎn)品，利用高精度建模，對基礎(chǔ)設(shè)施中全鏈路的暖通或相關(guān)機(jī)電系統(tǒng)實(shí)現(xiàn)1:1仿真構(gòu)建，通過AI算法實(shí)現(xiàn)全局節(jié)能的精細(xì)化，節(jié)能率可達(dá)10%-45%。
基于京東云自研的精維軟件平臺，集成故障定位、容量管理，動態(tài)環(huán)境監(jiān)控等功能，以及空調(diào)智能節(jié)能運(yùn)行管理，在保證可用性的同時(shí)，極大提升電力系統(tǒng)使用效率。
降本實(shí)踐對外服務(wù)產(chǎn)業(yè)
除了服務(wù)于自身，京東云也積極將智算中心降本提效相關(guān)能力對外輸出。
博大數(shù)據(jù)投資建設(shè)的前海智算中心示范基地，采用京東云“阿爾法”算力模塊產(chǎn)品，從規(guī)劃到項(xiàng)目交付不到90天，借助液冷技術(shù)，基礎(chǔ)設(shè)施能耗節(jié)省超30%。
此外，京東云還支持青海電信智算中心的建設(shè)運(yùn)營，通過共同打造穩(wěn)定、可靠的商用智算集群，向社會輸出普惠的高性能AI算力，為大模型的應(yīng)用落地提供強(qiáng)勁動能。
當(dāng)前，隨著技術(shù)的不斷演進(jìn)，智算中心正逐步邁向更高層次的自動化和智能化升級，京東云擁有從MaaS服務(wù)到智算集群，再到硬件基礎(chǔ)設(shè)施的數(shù)智算力矩陣，并基于成熟的智算云運(yùn)營體系，讓客戶能夠享受到更高效、更經(jīng)濟(jì)、更穩(wěn)定的智算服務(wù)。
