數(shù)據(jù)家,idc官網(wǎng),算力,裸金屬,高電機房,邊緣算力,云網(wǎng)合一,北京機房,北京云計算,北京邊緣計算,北京裸金屬服務器,北京數(shù)據(jù)服務器,北京GPU服務器,高算力服務器,數(shù)據(jù)機房相關(guān)技術(shù)新聞最新報道
2024 年剩余時間有望成為數(shù)據(jù)中心芯片市場繁忙的一年，因為競爭對手芯片制造商都在準備發(fā)布新處理器。
分析師表示，AMD 和英特爾預計將推出新的競爭性數(shù)據(jù)中心 CPU，而包括超大規(guī)模廠商和初創(chuàng)公司在內(nèi)的其他芯片制造商計劃推出新的AI芯片，以滿足 AI 工作負載不斷飆升的需求。比如英特爾在本周二確認其用于人工智能訓練和推理的新型 Gaudi 3 人工智能加速器預計將于 2024 年第三季度全面上市，而 Meta 在周三宣布其下一代人工智能推理處理器現(xiàn)已投入生產(chǎn)并已在其數(shù)據(jù)中心使用。
Omdia?數(shù)據(jù)中心 IT 首席分析師 Manoj Sukumaran 表示，雖然服務器銷量預計將增長 6%，從?2023 年的 1080 萬臺服務器出貨量增長到 2024 年的 1150 萬臺，但 2024 年服務器收入預計將同比增長 59%，這表明處理器仍然是一個熱門且不斷增長的市場。事實上，在未來五年內(nèi)，服務器收入預計將增加一倍以上，到 2028 年達到 2700 億美元。
“盡管單位出貨量沒有大幅增長，但收入增長相當快，因為這些服務器內(nèi)部裝有大量芯片，因此服務器價格大幅上漲，”Sukumaran 告訴Data Center Knowledge。 “這對芯片供應商來說是一個巨大的機會?！?/span>
協(xié)處理器是熱門商品數(shù)據(jù)中心運營商對“協(xié)處理器”有很大的興趣——旨在補充和增強主處理器功能的微處理器。
Sukumaran 表示，傳統(tǒng)上，數(shù)據(jù)中心服務器市場以 CPU 為中心，CPU 是通用服務器中最昂貴的組件。他表示，2020 年只有超過 11% 的服務器擁有協(xié)處理器，但到 2028 年，預計超過 60% 的服務器將配備協(xié)處理器，這不僅可以提高計算能力，還可以提高效率。
Nvidia H100 和 AMD MI300 GPU、谷歌云張量處理單元?(TPU) 等協(xié)處理器以及其他定制專用集成電路 (ASIC) 很受歡迎，因為它們能夠?qū)崿F(xiàn) AI 訓練、AI 推理、數(shù)據(jù)庫加速、網(wǎng)絡卸載和安全功能和視頻轉(zhuǎn)碼，Sukumaran 說。
分析師指出，視頻轉(zhuǎn)碼是一個使 Netflix、YouTube 和其他流媒體能夠優(yōu)化從電視到智能手機等不同用戶設備的視頻質(zhì)量的過程。
AMD 和 Intel 與 ARM CPU的?CPU 市場仍然利潤豐厚。英特爾仍然是市場份額的領(lǐng)先者，但來自初創(chuàng)公司?Ampere?和其他云服務提供商的 AMD 和基于 Arm 的 CPU 近年來已經(jīng)削弱了英特爾的主導地位。
Omdia 的數(shù)據(jù)顯示，雖然英特爾擁有 61% 的 CPU 市場份額，但 AMD 已經(jīng)獲得了顯著的吸引力，從 2020 年服務器出貨量的不到 10% 增長到 2023 年的 27%。 Arm CPU 去年占據(jù)了 9% 的市場份額。
Sukumaran 表示：“過去幾年，Arm 軟件生態(tài)系統(tǒng)已經(jīng)相當成熟，Arm CPU 的低功耗和高核心密度對云服務提供商很有吸引力?！?/span>
事實上，谷歌云周二宣布其首款基于 Arm 的 CPU（稱為Google Axion 處理器）將于今年晚些時候向客戶提供。
英特爾今年的目標是通過發(fā)布下一代服務器處理器來重新在CPU市場站穩(wěn)腳跟。帶有 E 核的全新英特爾至強 6 處理器（之前代號為“Sierra Forest”）預計將于 2024 年第二季度上市，專為需要功效和性能的超大規(guī)模企業(yè)和云服務提供商而設計。
緊隨其后的是推出帶有 P 核的全新 Intel Xeon 6 處理器，以前的代號為 Granite Rapids，主打高性能。然而，AMD 并沒有坐以待斃，計劃發(fā)布名為 Turin 的第五代 EPYC CPU。
Moor Insights & Strategy 副總裁兼首席分析師馬特·金博爾 (Matt Kimball) 表示：“AMD 毫無疑問是性能領(lǐng)先者，并且在從英特爾手中奪取市場份額方面表現(xiàn)出色。”幾乎所有這些都已通過超大規(guī)模企業(yè)存儲在云端，AMD 也希望進一步擴大其在本地企業(yè)中的收益。 2024 年，從性能角度來看，您將看到英特爾在服務器端 CPU 方面再次具有競爭力?！??
各個垂直領(lǐng)域的公司都在競相構(gòu)建人工智能模型，因此人工智能培訓的規(guī)模仍然很大。但 Tirias Research 創(chuàng)始人兼首席分析師 Jim McGregor 表示，到 2024 年，人工智能推理芯片市場將開始出現(xiàn)。
“正在向推理處理轉(zhuǎn)變，”他說。 “我們看到大量人工智能工作負載和生成式人工智能工作負載的出現(xiàn)。他們已經(jīng)訓練了模型。現(xiàn)在，他們需要一遍又一遍地運行它們，并且希望盡可能高效地運行這些工作負載。因此，期待看到供應商推出新產(chǎn)品?！?/span>
McGregor 表示，Nvidia 憑借其 GPU 在人工智能領(lǐng)域占據(jù)主導地位，但 AMD 已于 12 月發(fā)布了用于人工智能訓練和推理的 Instinct MI300 系列 GPU，推出了可行的競爭產(chǎn)品。
雖然 GPU 甚至 CPU 都用于訓練和推理，但越來越多的公司（包括高通、Amazon Web Services (AWS) 和Meta等超大規(guī)模企業(yè)，以及 Groq、Tenstorrent 和 Untether AI 等 AI 芯片初創(chuàng)公司）已經(jīng)構(gòu)建或正在開發(fā)專門用于人工智能推理的芯片。分析師還表示，這些芯片更加節(jié)能。
Kimball 表示，當組織部署 Nvidia H100 或 AMD MI300 時，這些 GPU 非常適合訓練，因為它們很大，具有大量內(nèi)核，并且具有高帶寬內(nèi)存，具有高性能。
“推理是一項更輕量級的任務。他們不需要 H100 或 MI300 的強大功能，”他說。
以下是預計將于 2024 年推出的處理器列表。
AMD 首席執(zhí)行官蘇姿豐在?2023 年第四季度財報電話會議上表示AMD 計劃在 2024 年下半年推出下一代服務器處理器 Turin。 Turin基于該公司新的Zen 5核心。
“Turin 是現(xiàn)有第四代 EPYC 平臺的直接替代品，通過添加下一代 Zen 5 核心、新的內(nèi)存擴展功能和更高的核心數(shù)量，擴展了我們的性能、效率和 TCO 領(lǐng)先地位，”她在會上表示財報電話會議。
目前還沒有該產(chǎn)品的具體細節(jié)。但 Moor Insights & Strategy 分析師 Kimball 表示，這款產(chǎn)品將具有重要意義。他表示：“AMD 將尋求從性能和每瓦性能的角度進一步將自己與英特爾區(qū)分開來?！弊匀ツ?12 月推出以來，AMD 也看到了對其 Instinct MI300 加速器（包括 MI300X GPU）的巨大需求。 蘇姿豐在財報電話會議上表示，該公司計劃今年為云、企業(yè)和超級計算客戶積極提高 MI300 的產(chǎn)量。?
英特爾高管計劃今年發(fā)布幾款主要芯片：Gaudi 3 AI 加速器和下一代 Xeon 服務器處理器。
idc網(wǎng),算力,裸金屬,高電機房,邊緣算力,云網(wǎng)合一,北京機房,北京云計算,北京邊緣計算,北京裸金屬服務器,北京數(shù)據(jù)服務器,北京GPU服務器,高算力服務器,數(shù)據(jù)機房Gaudi 3將用于AI訓練和推理，瞄準企業(yè)市場。它的設計目的是與 Nvidia 和 AMD 的 GPU競爭。英特爾表示這款 AI 芯片將比其前身 Gaudi 2 提供四倍的人工智能計算能力和 1.5 倍的內(nèi)存帶寬。
英特爾高管補充道，與 Nvidia 的 H100 GPU 相比，Gaudi 3 預計訓練和推理時間將加快50%，推理能效將提高 40%。
分析師金博爾表示：“這將具有巨大的節(jié)能效果和更低的價格?！?/span>
至于下一代Intel Xeon 6處理器，Sierra Forest將包括一個具有288個核心的版本，這將是業(yè)界最大的核心數(shù)量。這也是該公司首款“E-core”服務器處理器，旨在平衡性能與能源效率。
Granite Rapids 是一款“P 核”服務器處理器，專為實現(xiàn)最佳性能而設計。該公司表示，與 Sapphire Rapids 相比，它將為 AI 工作負載提供兩到三倍的性能提升。
英特爾發(fā)言人表示，Gaudi 3 將于 2024 年第二季度向 OEM 供應，預計在第三季度全面上市。 Sierra Forest（現(xiàn)稱為具有 E 核的英特爾至強 6 處理器）預計將于 2024 年第二季度上市。英特爾發(fā)言人表示，Granite Rapids（現(xiàn)在稱為帶有 P 核的英特爾至強 6 處理器）預計將“很快”推出。
這一消息是在英特爾去年推出第五代至強 CPU之后發(fā)布的。
3月中旬，英偉達宣布將于今年晚些時候開始出貨下一代Blackwell GPU，分析師表示，這將使這家芯片巨頭能夠繼續(xù)主導AI芯片市場。
Blackwell GPU 的新系列專為云提供商和企業(yè)而設計，在單個 GPU 上提供 20 petaflops 的 AI 性能，使組織能夠以四倍的速度訓練 AI 模型，將 AI 推理性能提高 30 倍，并使用多達 25高管們表示，能效比 Nvidia 上一代 Hopper 架構(gòu)芯片高出數(shù)倍。
Nvidia 還將在 2024 年第二季度發(fā)貨基于 Hopper 的 H200。該公司最近宣布了新的基準測試，表明它是運行生成式人工智能工作負載的最強大的平臺。該公司表示，在推理 700 億個參數(shù)的?Llama 2?模型時，H200 的性能比 H100快 45% 。
去年 5 月，這家由英特爾前總裁 Renee James 領(lǐng)導的初創(chuàng)公司宣布了一個新的定制設計、與 Arm 兼容的服務器處理器系列。具有多達 192 個核心。該公司高管表示，該處理器名為AmpereOne，專為云服務提供商而設計，可同時提供高性能和高能效。
AWS 是與 Nvidia、AMD 和 Intel 等大型芯片制造商合作的超大規(guī)模提供商之一，并使用他們的處理器為客戶提供云服務。但他們也發(fā)現(xiàn)構(gòu)建自己的定制芯片來為自己的數(shù)據(jù)中心供電并為客戶提供云服務是有利且具有成本效益的。
AWS 今年將推出Graviton4，一種用于通用工作負載的基于 Arm 的 CPU，以及用于人工智能訓練的 Tranium2。 AWS 安納普爾納實驗室產(chǎn)品和業(yè)務開發(fā)高級總監(jiān) Gadi Hutt 表示，去年，該公司還推出了第二代人工智能推理芯片 Inferentia2。
“我們的目標是為客戶提供選擇的自由，并以顯著降低的成本為他們提供高性能，”赫特說。
Tranium2 的計算能力是其首款 Tranium 處理器的四倍，內(nèi)存是其三倍。 Hutt 表示，AWS 在 60,000 個芯片集群中使用第一個 Tranium 芯片，而 Tranium2 將在 100,000 個芯片集群中使用。
微軟最近發(fā)布了用于人工智能和生成式人工智能任務的 Microsoft Azure Maia 100 AI 加速器，以及用于通用計算工作負載的基于 Arm 的處理器 Cobalt 100 CPU。
該公司去年 11 月表示，將于 2024 年初開始推出這兩款處理器，最初為 Microsoft Copilot 和 Azure OpenAI Service 等微軟服務提供支持。
該公司表示，Maia AI 加速器專為 AI 訓練和推理而設計，而 Cobalt CPU 是一款節(jié)能芯片，旨在提供良好的每瓦性能。
Google Cloud 是超大規(guī)模領(lǐng)域的開拓者，于 2013 年首次推出了定制張量處理單元 (TPU)。TPU 專為人工智能訓練和推理而設計，可在 Google Cloud 上向客戶提供。這些處理器還支持 Google 服務，例如搜索、YouTube、Gmail 和?Google 地圖。
該公司去年年底推出了第五代 TPU?。該公司表示，Cloud TPU v5p 訓練模型的速度比其前身快 2.8 倍。
谷歌云周二宣布開發(fā)出首款基于 Arm 的 CPU，名為Google Axion 處理器。使用 Arm Neoverse V2 CPU 構(gòu)建的新 CPU 將于今年晚些時候向 Google Cloud 客戶提供。
該公司表示，客戶將能夠在許多谷歌云服務中使用 Axion，包括谷歌計算引擎、谷歌 Kubernetes 引擎、Dataproc、Dataflow 和 Cloud Batch。
分析師 Kimball 預計，隨著谷歌云開始為其客戶部署自己的 CPU，AMD 和英特爾的收入將受到打擊。
宣布，Meta 今年已在其數(shù)據(jù)中心部署了用于人工智能推理的下一代定制芯片。
下一代人工智能推理芯片之前代號為Artemis，是該公司為 Meta 的人工智能工作負載設計的元訓練和推理加速器 (MTIA) 系列定制芯片的一部分。
Meta去年推出了第一代人工智能推理芯片MTIA v1。該公司表示，與第一代芯片相比，新的下一代芯片的性能提高了三倍，每瓦性能提高了1.5倍。
人工智能硬件初創(chuàng)公司 Cerebras Systems于 3 月中旬推出了第三代人工智能處理器 WSE-3。這款晶圓級芯片的性能是其前身的兩倍，并在高端人工智能訓練市場與英偉達展開競爭。
該公司在三月中旬還與高通合作，為其客戶提供人工智能推理服務。在 Cerebras 硬件上訓練的模型經(jīng)過優(yōu)化，可在 Qualcomm Cloud A100 Ultra 加速器上運行推理。
Groq是一家位于加利福尼亞州山景城的人工智能芯片初創(chuàng)公司，它構(gòu)建了 LPU 推理引擎來運行大型語言模型、生成式人工智能應用程序和其他人工智能工作負載。
Groq 于 2020 年發(fā)布了首款人工智能推理芯片，目標客戶是超大規(guī)模企業(yè)、公共部門、人工智能初創(chuàng)公司和開發(fā)商。公司發(fā)言人表示，該公司將于 2025 年發(fā)布下一代芯片。
Tenstorrent是一家總部位于多倫多的人工智能推理初創(chuàng)公司，有著悠久的歷史：其首席執(zhí)行官是 Jim Keller，一位芯片架構(gòu)師，曾在蘋果、AMD、特斯拉和英特爾工作，幫助設計了 AMD 的 Zen 架構(gòu)以及早期蘋果 iPad 和 iPhone 的芯片。
Tenstorrent 戰(zhàn)略和企業(yè)傳播副總裁 Bob Grim 表示，該公司今年已開始接受 Wormhole AI 推理芯片的訂單，并將于今年晚些時候正式推出。
他說，Tenstorrent 正在向企業(yè)、實驗室和任何需要高性能計算的組織銷售由 32 個 Wormhole 芯片驅(qū)動的服務器。 Grim 表示，Tenstorrent 目前專注于人工智能推理，但其芯片也可以為人工智能訓練提供支持，因此該公司計劃未來也支持人工智能訓練。
Untether AI是一家總部位于多倫多的人工智能芯片初創(chuàng)公司，致力于打造節(jié)能人工智能推理芯片。
該公司發(fā)言人表示，該公司的總裁是前英特爾公司副總裁兼總經(jīng)理 Chris Walker，該公司于 2021 年推出了首款產(chǎn)品，并計劃于今年推出第二代 SpeedAI240 芯片。
該發(fā)言人表示，Untether AI 的芯片專為各種外形尺寸而設計，從用于嵌入式應用的單芯片設備到 4 芯片 PCI-Express 加速卡，因此其處理器可用于從邊緣到數(shù)據(jù)中心的各個環(huán)節(jié)。
