數(shù)據(jù)家,idc官網(wǎng),算力,裸金屬,高電機房,邊緣算力,云網(wǎng)合一,北京機房,北京云計算,北京邊緣計算,北京裸金屬服務器,北京數(shù)據(jù)服務器,北京GPU服務器,高算力服務器,數(shù)據(jù)機房相關技術新聞最新報道
?
當今的數(shù)據(jù)中心依賴CPU來驅(qū)動運行商業(yè)軟件的服務器，這將需要為獨特的GenAI模型騰出空間。部署和運行GenAI模型將需要新的工具集。?
英偉達首席執(zhí)行官黃仁勛在本周這里的開幕主題演講中說：“通用計算已經(jīng)走到盡頭，我們需要一種新的計算方式。”?
黃仁勛推出了該公司AI企業(yè)平臺的第五版，其中包含了他所描述的英偉達推理微服務(NIM)。這套組合軟件簡化了創(chuàng)建和開發(fā)利用英偉達 CUDA(用于公司GPU的并行計算平臺和編程模型)的GenAI應用程序的過程。?
分析師預計，許多企業(yè)將在內(nèi)部部署小型語言模型，以便在不將敏感信息傳輸?shù)焦苍频那闆r下對其進行微調(diào)。在數(shù)據(jù)中心運行模型有時比云端更經(jīng)濟。?
NIM之所以有用，是因為它簡化了將實時數(shù)據(jù)定期輸入到訓練有素的模型中以做出最新響應的過程——這一過程稱為推理。擁有自動化與模型相關過程的工具意味著傳統(tǒng)軟件工程師可以完成工作，而不必尋找難以找到的AI專家，Weights & Biases首席營銷官Robin Bordoli說，該公司是AI模型訓練平臺的制造商。?
Weights & Biases已將其軟件與英偉達的推理引擎集成，因此開發(fā)人員可以在支持30個基礎模型的平臺上進行訓練和推理。今天，Weights & Biases擁有1000名客戶，其中許多是政府機構和生命科學組織，Bordoli說。?
他說：“我們正在幫助下一批客戶，即企業(yè)。他們永遠不會從頭開始構建模型，但他們想要使用現(xiàn)有模型，并根據(jù)自己的企業(yè)數(shù)據(jù)對其進行微調(diào)?！?
英偉達已將NIM構建為在Kubernetes上運行的容器，Kubernetes是企業(yè)熟悉的開源容器編排平臺，DataStax開發(fā)關系副總裁Patrick McFadin說，該公司為AI應用提供向量數(shù)據(jù)庫。?
McFadin說：“我立刻注意到的是，它使用Kubernetes部署。在大型企業(yè)運營基礎設施的人正在使用Kubernetes，所以他們已經(jīng)非常好地將自己融入其中?！?
英偉達合作伙伴Dell Technologies提供多種配備英偉達 AI企業(yè)軟件和GPU(H100和L40S)的PowerEdge服務器。?
Dell的基礎設施和電信營銷高級副總裁Varun Chhabra說：“我們從大多數(shù)企業(yè)看到的是采用現(xiàn)成的模型，無論是大模型還是小模型，并將其與專有企業(yè)數(shù)據(jù)結(jié)合?！?
Dell認為，檢索增強生成(RAG)對企業(yè)來說將和推理一樣重要。RAG是一種架構，它結(jié)合了信息檢索系統(tǒng)來保護私人數(shù)據(jù)。?
Chhabra說：“RAG是我們關注的一個重要領域?！?
英偉達 NIM最大的好處是在一個容器中打包了推理所需的許多微服務，Chhabra說?！八砸环N即插即用的方式做到了這一點。”?
Chhabra說：“AI軟件和加速計算需要改變數(shù)據(jù)中心?！?
“這絕對感覺像我們處于一個轉(zhuǎn)折點，”他說?！皵?shù)據(jù)中心的徹底重建即將到來。”?
在會議上，英偉達的客戶描述了他們?nèi)绾闻cGenAI合作，所有這些都處于早期階段。這些公司包括LinkedIn、全球廣告公司W(wǎng)PP、化妝品制造商L'Oreál以及德國索賠管理軟件制造商ControlExpert GmbH。?
WPP與英偉達合作開發(fā)了一款內(nèi)容引擎，用于使用英偉達 Omniverse Cloud和GenAI創(chuàng)建客戶產(chǎn)品的視頻、3D和2D圖像。該系統(tǒng)還使用Getty Images和Adobe內(nèi)容創(chuàng)作技術的照片。?
WPP首席技術官Stephan Pretorius表示，廣告藝術的質(zhì)量取決于AI模型生成作品所需數(shù)據(jù)的可用性。?
他在演講中說：“我們發(fā)現(xiàn)，在我們與擁有非常明確的品牌定義、非常準確的品牌個性、語調(diào)、聲音等描述方式的客戶合作時，我們的效果比那些模糊的客戶要好得多。”?
Pretorius認為，WPP使用AI模仿“人類內(nèi)容創(chuàng)作過程”。他說：“但在我們必須處理的復雜性和數(shù)據(jù)量方面，沒有AI就無法執(zhí)行這樣的任務?！?
Pretorius認為，AI驅(qū)動的語音交流將最終取代今天的內(nèi)容驅(qū)動方法。?
他說：“我們認為內(nèi)容消費的未來將主要是對話式的?！?
L'Oreál正在測試GenAI以生成分鏡頭腳本圖像，并使用英偉達 Omniverse進行公司包裝產(chǎn)品的3D渲染。它還使用了幾個AI模型。?
該公司向其模型提供了數(shù)千張品牌圖像，以及背景色、不同類型的照明和設置(如優(yōu)雅的巴黎日落)。廣告創(chuàng)作者可以使用自然語言讓模型創(chuàng)造圖像，以激發(fā)其營銷37個全球品牌的創(chuàng)意。?
該系統(tǒng)可以幫助想象未來的美容院或使用空間現(xiàn)象(如紅色星云)的廣告場景。?
L'Oréal首席數(shù)字和營銷官Asmita Dubey在一次采訪中說：“發(fā)生的是數(shù)據(jù)的重新解釋。而且是速度[創(chuàng)作]。它可以做得更快。”?
在過去的六個月里，L'Oréal與英偉達 Omniverse和WPP合作為其產(chǎn)品創(chuàng)建了定制的3D模型，以便它可以更改背景、顏色和陰影，而不必在攝影棚里花費幾天時間與攝影師一起。L'Oréal只需要一次工作室會議就可以捕捉到產(chǎn)品包裝的所有角度。?
該公司認為它可以節(jié)省時間和金錢，但它仍處于使用Omniverse的早期階段。?
在會議的小組討論中，LinkedIn工程副總裁Sabry Tozin表示，該公司使用AI進行語言翻譯。這使得位于內(nèi)布拉斯加州奧馬哈的客戶服務代表能夠用西班牙語、法語或德語與客戶交談，而無需了解這些語言。?
Tozin說：“這使我們能夠留住那些非常了解我們的產(chǎn)品并能夠向客戶提供深入答案的代表。”?
ControlExpert的軟件使保險公司能夠讓客戶在發(fā)生事故后拍攝車輛損壞的照片，并通過移動應用將圖像發(fā)送給供應商。?
idc網(wǎng),算力,裸金屬,高電機房,邊緣算力,云網(wǎng)合一,北京機房,北京云計算,北京邊緣計算,北京裸金屬服務器,北京數(shù)據(jù)服務器,北京GPU服務器,高算力服務器,數(shù)據(jù)機房AI模型分析圖像，評估損壞并返回估計的維修成本和批準的汽車修理廠列表。ControlExpert的客戶包括90%的保險公司。?
該公司的創(chuàng)新與技術總監(jiān)Sebastian Schoenen說，該公司已經(jīng)對20年來收集的數(shù)據(jù)進行了模型訓練。它每年處理2000萬個索賠。?
汽車模型設計經(jīng)常發(fā)生變化，修理價格也在波動，因此ControlExpert正在不斷更新其模型。盡管如此，仍有一小部分案例需要人工干預。?
Schoenen說：“如果我們看到我們的模型無法完成某些任務，我們就會將索賠轉(zhuǎn)給人類?！?/p>
