寶德昇騰AI服務(wù)器PR420KI G2創(chuàng)新大模型算力底座
隨著ChatGPT的出圈爆火，AIGC技術(shù)已開啟了快速發(fā)展模式，不少企業(yè)紛紛發(fā)力布局AI大模型領(lǐng)域，多個(gè)AI大模型如雨后春筍般涌現(xiàn)，呈現(xiàn)“百模齊放”之勢(shì)。而AI大模型千千萬，但是能走進(jìn)千家萬戶、賦能千行百業(yè)才是硬道理。
算力作為人工智能發(fā)展的引擎，更是AI大模型的重要驅(qū)動(dòng)力。AI大模型的參數(shù)量和計(jì)算量龐大，要訓(xùn)練出優(yōu)秀的AI模型并真正應(yīng)用于各行各業(yè)，需要巨大的算力支持。因此，百模齊發(fā)之時(shí)，能為大模型訓(xùn)練提供強(qiáng)勁運(yùn)算能力和高效安全的底座的AI算力成為各路必爭(zhēng)的利器。
作為中國AI服務(wù)器TOP3企業(yè)，寶德創(chuàng)新升級(jí)，重磅推出了自強(qiáng)?系列昇騰AI訓(xùn)練服務(wù)器PR420KI G2，助力大模型賦能千行百業(yè)。該服務(wù)器面向深度學(xué)習(xí)模型開發(fā)和AI訓(xùn)練服務(wù)場(chǎng)景，專為大模型訓(xùn)練而生，具有更高算力密度、超高能效與高速網(wǎng)絡(luò)帶寬等優(yōu)勢(shì)，提供豐富的算力資源，能加速處理運(yùn)算，滿足大模型訓(xùn)練的海量算力需求。
更高算力密度，高效加速AI應(yīng)用
寶德自強(qiáng)?訓(xùn)練服務(wù)器PR420KI G2基于鯤鵬+昇騰處理器打造，在4U空間內(nèi)提供2.5PFLOPS FP16超強(qiáng)算力，最高提供0.65PFLOPS FP32業(yè)界領(lǐng)先算力，具有海量數(shù)據(jù)并行計(jì)算能力，可輕松應(yīng)對(duì)大模型沉重的計(jì)算壓力。同時(shí)搭載8顆超強(qiáng)算力的昇騰處理器，其內(nèi)部集成了圖像&視頻預(yù)處理器，外部通信模塊、硬件加速器、芯片管理核等模塊，提供完整的SOC功能，能高效加速AI應(yīng)用。
高速網(wǎng)絡(luò)帶寬，加速大模型技術(shù)升級(jí)落地
AI大模型一方面需要強(qiáng)大的計(jì)算能力，另一方面也需要高速可靠的網(wǎng)絡(luò)讓數(shù)據(jù)及時(shí)流動(dòng)。而模型參數(shù)量越大，對(duì)帶寬的需求就越高。PR420KI G2提供高速網(wǎng)絡(luò)帶寬，延時(shí)低，可有效減少大模型訓(xùn)練的時(shí)間成本。它具有8*200G RoCE v2高速接口，8路NPU通過HCCS Full mesh互聯(lián)模式，雙向互聯(lián)帶寬可達(dá)392GB/s，全面提升大模型的訓(xùn)練效率。同時(shí)整機(jī)HBM緩存512G，帶寬達(dá)1600GB/s，進(jìn)一步釋放 AI 潛能，助力大模型算力瓶頸突破，加速大模型技術(shù)的迭代升級(jí)和落地應(yīng)用。
極致能效比，兼顧高算力低能耗
碳中和背景下，大模型追求高算力的同時(shí)也要兼顧節(jié)能減排。PR420KI G2配置高效節(jié)能電源、動(dòng)態(tài)冷卻機(jī)制，提供2.5PFLOPS/5.2kW超高能效比，在保持其性能的同時(shí)，大大節(jié)省運(yùn)營費(fèi)用，降低訓(xùn)練成本；同時(shí)，還采用智能散熱系統(tǒng)，根據(jù)熱關(guān)鍵器件溫度綜合調(diào)節(jié)風(fēng)扇轉(zhuǎn)速，節(jié)能的同時(shí)降低了噪音并提高風(fēng)扇的可靠性。
此外，PR420KI G2還采用2+2 冗余電源設(shè)計(jì)，提供多種 RAID 保護(hù)級(jí)別，具備數(shù)據(jù)處理性能和保護(hù)數(shù)據(jù)功能，為服務(wù)器的運(yùn)行安全提供更高的安全保障。它可廣泛適用于大模型訓(xùn)練、智慧城市、智慧醫(yī)療、天文探索、石油勘探、高性能計(jì)算（HPC）等需要大算力的應(yīng)用場(chǎng)景，為加速更多AI落地和應(yīng)用提供澎湃動(dòng)力。
當(dāng)前AI大模型正不斷向縱深發(fā)展，在國家政策的影響下，高算力、高帶寬、低能耗的AI算力基礎(chǔ)設(shè)施將更受青睞。未來，寶德將繼續(xù)充分發(fā)揮自身AI服務(wù)器領(lǐng)域的技術(shù)優(yōu)勢(shì)和市場(chǎng)經(jīng)驗(yàn)，加速大模型與實(shí)體產(chǎn)業(yè)的深度融合，助推更多大模型場(chǎng)景落地和應(yīng)用，促進(jìn)千行百業(yè)數(shù)字變革，為我國人工智能產(chǎn)業(yè)的發(fā)展注入強(qiáng)勁的動(dòng)力。
