數(shù)據(jù)家,idc官網(wǎng),算力,裸金屬,高電機房,邊緣算力,云網(wǎng)合一,北京機房,北京云計算,北京邊緣計算,北京裸金屬服務器,北京數(shù)據(jù)服務器,北京GPU服務器,高算力服務器,數(shù)據(jù)機房相關技術新聞最新報道
數(shù)字經(jīng)濟時代，大模型快速發(fā)展，對智算提出了更高、更迫切的需求，這為行業(yè)發(fā)展提供了巨大的產(chǎn)業(yè)機遇，同時也意味著一系列的優(yōu)化變革。目前，相關技術與產(chǎn)品、解決方案正不斷迭代，多家代表性企業(yè)通過創(chuàng)新來加快智算建設，釋放新質生產(chǎn)力。
以寧暢為例，其3月29日發(fā)布了品牌戰(zhàn)略“全局智算”，并基于戰(zhàn)略推出“AI算力棧”解決方案，從底層硬件到頂層管理平臺，覆蓋算-存-網(wǎng)-建-管-用-液全局AI算力需求，為行業(yè)級/企業(yè)級智算中心的構建提供了強有力支持。當天，寧暢還推出國內首個AI算力棧——寧暢NEX AI Lab（Nettrix AI Open Lab）并開放預約試用，通過免費提供軟、硬件服務，帶來大模型、數(shù)據(jù)科學、推薦系統(tǒng)等解決方案工作流的先進體驗。
圖：寧暢發(fā)布“全局智算”戰(zhàn)略
大模型需要怎樣的智算？
大模型可分為訓練、垂直場景適配、應用部署運行三個階段，不同時期的需求均有所差異。寧暢總裁秦曉寧表示，大模型的階段不同，所“涌現(xiàn)”的問題復雜性和關鍵難點也不盡相同，因此對AI支撐能力體系的要求各具側重。
圖：寧暢總裁秦曉寧
就智算而言，不同階段，數(shù)據(jù)存儲量、計算量，實時交互支撐能力需求等同樣存在差異。想要滿足高效的算力供給，便需要更為龐大的信息計算力、數(shù)據(jù)存儲力、網(wǎng)絡運載力，芯片需要升級且在大模型推理與應用階段方向應有不同的偏重；存儲要推動全閃存等先進存儲發(fā)展以應對越發(fā)龐大的數(shù)據(jù)存儲量；網(wǎng)絡帶寬逐步向400G、800G乃至1.6T發(fā)展且要增強算網(wǎng)融合以實現(xiàn)更好的協(xié)同能力。
此外，巨大的能耗不容忽視。據(jù)測算，預計到2025年，我國數(shù)據(jù)中心能耗總量將突破4000億千瓦時。想要降低能耗，應從多個層面優(yōu)化，如提高分布式光伏的部署，推動儲能發(fā)展等，其中最引人矚目的是如何改進散熱效率。作為數(shù)據(jù)中心里僅次于IT設備的第二大能耗源，散熱效率的提升一直是數(shù)據(jù)中心降低PUE，節(jié)能減碳的重點。目前來看，液冷被公認是智算中心的散熱標配，其帶走的熱量是同體積空氣的近3000倍，技術也已經(jīng)成熟，能夠滿足智算中心高密度需求，實現(xiàn)降本增效與綠色化發(fā)展。
算力使用效率的同樣重要，以達到資源的高效利用、供需合理平衡，這就對軟件能力及服務能力等提出了更高的要求。作為推動產(chǎn)業(yè)發(fā)展的關鍵引擎，智算已經(jīng)不再局限于算力性能這一單一競爭要素。算法協(xié)同優(yōu)化、數(shù)據(jù)處理能力、模型可解釋性以及與特定行業(yè)應用的融合度，都成為智算能否成功推動技術創(chuàng)新和實際落地的核心因素，這就需要在優(yōu)化硬件配置的基礎上，創(chuàng)新適配性強、能夠提升算效、優(yōu)化模型適配的軟件，將大模型的算力需求與智算的供給進一步契合，以推動大模型的訓練、推理。同時，大模型的三個階段對智算有著差異化要求，想要提升算效，需要智能計算相關企業(yè)具備高品質的服務能力，能夠滿足咨詢、設計、建設、硬件供給等多項需求。
基于此來看，大模型時代所需要的智算，應具備計算力海量泛在、靈活供給，存儲高效易拓展，網(wǎng)絡高速互聯(lián)互通，設施綠色低碳，資源高效調度，服務智能隨需等特征，能夠應像水電一樣便捷，以有效降低企業(yè)使用成本，促進大模型的訓練、垂直場景適配與應用部署。
“全局智算”給出發(fā)展優(yōu)化新思路
當前，我國大模型正快速發(fā)展，據(jù)統(tǒng)計，10億參數(shù)規(guī)模以上的大模型數(shù)量已超過100個，面對越發(fā)龐大且要求更為復雜的算力需求，智算建設的量與質必須加速優(yōu)化，向普惠易用、綠色安全的方向發(fā)展。此次寧暢“全局智算”的提出，便是對加快智算市場需要的快速響應，通過全棧智能計算能力，以及涵蓋硬件、軟件、算法、液冷和服務質量等多個維度的系統(tǒng)性AI計算方案，為更多行業(yè)發(fā)展帶來堅實的支持和動力。
秦曉寧指出：“寧暢的‘全局智算’具備六大‘全’特性，涵蓋軟硬件全體系及全液冷產(chǎn)品，提供從咨詢到運維的全流程服務，滿足全行業(yè)用戶大模型開發(fā)、適配、部署的全場景需求，并按用戶發(fā)展階段，定制專業(yè)且性價比高的AI計算方案。”
“全局智算”戰(zhàn)略下，“AI算力棧”則是寧暢AI全棧能力的集中體現(xiàn)。寧暢CTO趙雷表示，“AI算力棧”集成了寧暢在AI計算領域的軟硬件能力，以底層硬件到頂層應用平臺的系統(tǒng)化方案，滿足大模型落地所需的計算、存儲、網(wǎng)絡、建設、管理、應用及液冷等全方位需求，以其全面、靈活、深度的支撐能力，為行業(yè)級/企業(yè)級智算中心的構建提供了強有力的支持。
具體來看，“AI算力棧”具體包括厚“基”薄發(fā)的“硬實力”、至“簡”智豐的“軟動力”及多“態(tài)”百應的“服助力”。
圖：寧暢CTO趙雷
其中，“硬實力”主要是指靈活的算力服務器、高效存儲、高速網(wǎng)絡及全棧液冷。寧暢擁有企業(yè)級、行業(yè)級智算中心建設的能力，在第四代/第五代英特爾® 至強® 可擴展處理器基礎上，能夠提供包括通用服務器、人工智能服務器、高密度服務器、整機柜液冷服務器、浸沒液冷服務器等在內的多類型服務器，其中，寧暢B8000液冷整機柜服務器作為AI算力棧最具亮點的交付形態(tài)，采用電、液、網(wǎng)三路全盲插設計，部署周期相較傳統(tǒng)方式提升30倍。網(wǎng)絡方面根據(jù)智算需求優(yōu)化傳輸方式，存儲上NexData并行文件系統(tǒng)支持全閃、混閃等，有效提升了數(shù)據(jù)存儲力與網(wǎng)絡運載力?；诖?，寧暢有效提高了智算供給，實現(xiàn)節(jié)能減碳。
“軟動力”主要是指高效的大規(guī)模集群設計、調試、交付能力；優(yōu)秀的軟硬件AI業(yè)務調優(yōu)支持。寧暢基于系統(tǒng)工程及算法模型，以AI算子全棧優(yōu)化能力，為AI業(yè)務提供并行加速、性能分析、模型開發(fā)優(yōu)化等服務支持，所支撐的AI中臺NVAIE AI平臺還簡化了開發(fā)流程，加速了從模型訓練到部署的全過程，使得AI創(chuàng)新更加迅速與便捷。目前，寧暢已構建出從算力資源定制，到模型適配優(yōu)化，再到高效部署落地的大模型算力服務閉環(huán)，幫助企業(yè)極速推進AI應用開發(fā)及管理，降低了企業(yè)使用成本，實現(xiàn)了算力的高效利用。
“服助力”主要是指AI場景服務，以滿足重點行業(yè)全階段AI創(chuàng)新。據(jù)趙雷介紹，寧暢能夠支持互聯(lián)網(wǎng)、金融、科研、自動駕駛等重要行業(yè)高“智”發(fā)展。在“AI算力棧”能力支撐下，寧暢×吉利星睿智算中心已經(jīng)建成，推動了大模型的研發(fā)應用。此次在桐鄉(xiāng)市落地的NEX AI Lab（Nettrix AI Open Lab），免費提供軟、硬件服務也是寧暢提供全方面AI場景服務的體現(xiàn)。據(jù)介紹，NEX AI Lab集成加速計算節(jié)點、全閃存存儲節(jié)點，可為GPT、LLaMA、Stable Diffusion等AI模型，提供多元場景應用優(yōu)化支持。
圖：國內首個AI算力棧落地桐鄉(xiāng)市
綜合來看，伴隨大模型快速發(fā)展，智算需求爆發(fā)，今年政府工作報告首提“全國一體化算力體系”，算力網(wǎng)絡建設和發(fā)展進入關鍵時期。這一階段，寧暢確定“全局智算”戰(zhàn)略，推出“AI算力棧”，能夠適用于智算中心發(fā)展，推動智算的高效供給，將為整個算力網(wǎng)的構建打下基礎，也在智算行業(yè)可謂拔得頭籌。而憑借先進的戰(zhàn)略理念和領先的能力底蘊，寧暢可滿足不同領域、不同開發(fā)階段的企業(yè)需求，這將推動算力有效供給與綠色發(fā)展，加速大模型的訓練、應用，促進智能化、數(shù)字化發(fā)展。
