首頁 > 中心訓練池：全棧智算基礎設施方案，性能優(yōu)先
中心訓練池是針對大模型訓練任務而設計，采用并行計算技術，降低訓練成本，為人工智能的發(fā)展和應用提供重要支持。中興通訊以性能優(yōu)先為目標，為運營商和行業(yè)用戶構建中心訓練池提供全棧的智算方案和工程能力。針對大模型訓練中心的需求，中興通訊提出"大算力"、"大網絡"、"大節(jié)能"和"大生態(tài)"建設方案。
在大算力方面，中興通訊引入了旗艦級GPU服務器R6900 G5。該服務器可支持 H800 NVLINK GPU模組或 OCP OAM GPU模組，提供卓越的AI算力。服務器支持節(jié)點間IB/RoCE組網，無阻塞帶寬高達4.8Tbps，實現(xiàn)數(shù)據(jù)中心內部高速、低延遲的數(shù)據(jù)傳輸。
在構建大規(guī)模網絡方面，中興通訊提供全套無損網絡解決方案。其中，創(chuàng)新框式單層多軌方案可實現(xiàn)萬卡級的最優(yōu)組網效果。通過端網協(xié)同構建高帶寬、低延遲無損網絡，實現(xiàn)算力無損，可以更好地支持大模型訓練任務的并行執(zhí)行。此外，中興通訊自研的DPU智能網卡提供大帶寬支持，進一步增強網絡性能。
為追求節(jié)能效果，中興通訊的AI服務器采用GPU+CPU雙液冷技術，通過液體冷卻系統(tǒng)，可帶走60%-80%的設備熱量,，大幅降低風扇轉速，降低功耗高達1000W。此外，數(shù)據(jù)中心中引入了風液融合制冷技術，將能源使用效率(PUE)降低至1.13，實現(xiàn)了節(jié)能環(huán)保的目標。
在大生態(tài)方面，中興通訊攜手和合作伙伴共建開放生態(tài)圈，通過推進軟硬解耦，屏蔽硬件差異，實現(xiàn)算力原生;推動數(shù)據(jù)定義和模型定義的標準化，實現(xiàn)訓推解耦和模型解耦，促進數(shù)據(jù)的可交互性和AI各環(huán)節(jié)的協(xié)同性。中興通訊可為大模型訓練池提供多廠家、全解耦智算基礎設施，兼顧性能領先和自主創(chuàng)新，提高了供應鏈的安全性。
省份推理池：融合通算與智算，成本優(yōu)先
省份推理池是為了滿足低時延推理任務而設計，它以省份通用數(shù)據(jù)中心為基礎，將模型的推理任務分布在各個省份推理池中執(zhí)行，能夠更快地響應終端設備的請求。目前，省份數(shù)據(jù)中心建設面臨"算力偏科"的挑戰(zhàn)。為提升整體性能，需要將傳統(tǒng)通用數(shù)據(jù)中心向通算與智算的融合演進，從通用CPU向CPU、GPU、DPU、FPGA等多種架構進行演進。算力融合的關鍵在于支持不同計算單元和多種架構并存，并確保軟硬件的兼容性。
中興通訊全系列服務器適配多廠家加速芯片，可更好地支持省級數(shù)據(jù)中心向通算、智算融合演進。這種融合將為用戶提供全精度的多元算力，能夠應用于更廣泛的場景。通過異構算力協(xié)同加速，可以大幅提升算效。中興通訊云平臺兼容主流軟硬件，統(tǒng)一管理通算、智算異構資源池，實現(xiàn)GPU統(tǒng)一虛擬池化。
通過中興通訊的技術支持和產品解決方案，省份推理池能夠更好的實現(xiàn)算力的融合，將通算與智算相結合。這將幫助省級數(shù)據(jù)中心提高算力利用效率，降低成本，并實現(xiàn)更加安全可靠的算力資源管理。
邊緣訓推一體機：智算用一體化，服務優(yōu)先
大模型的發(fā)展趨勢是垂直化，通用大模型將結合領域專家知識和企業(yè)私域數(shù)據(jù)，為各個垂直行業(yè)和企業(yè)提供數(shù)字化賦能。然而，許多行業(yè)和企業(yè)在大模型訓練和精調方面缺乏能力，大模型產業(yè)化面臨算力成本、技術門檻、應用場景和數(shù)據(jù)安全等挑戰(zhàn)。
為了解決這些問題，中興通訊推出了一站式、開箱即用的訓推一體機，滿足邊緣節(jié)點本地化部署需求。該一體機集成了計算、存儲、網絡設備和AI平臺軟件，支持主流AI框架，幫助用戶降低私域模型的訓練和推理成本，降低技術門檻。
中興通訊的訓推一體機具有小時級快速交付、資源按需分配和易于使用的特點。用戶無需復雜的部署和配置過程，可以快速投入使用，節(jié)省時間和資源。同時，用戶可以根據(jù)需求進行訓推資源的分配，實現(xiàn)最佳的性能和成本平衡。該一體機內置多種模型和應用，支持私域數(shù)據(jù)的本地精調，確保數(shù)據(jù)安全性。
從全連接公司向算力公司轉型，推動數(shù)字化轉型
中興通訊的端到端智算基礎設施方案提供了全面的智算能力和支持，覆蓋了從大規(guī)模模型訓練到實時推理決策的全過程。在運營商、工業(yè)、交通、金融等領域，中興通訊的智算基礎設施方案都可以提供定制化的支持，助力客戶實現(xiàn)智能化轉型和業(yè)務創(chuàng)新。中興通訊將繼續(xù)投入研發(fā)和創(chuàng)新，與合作伙伴共同推動人工智能和大模型技術的應用，提供更多創(chuàng)新的解決方案，推動數(shù)字化轉型邁向新的高度。
