數(shù)據(jù)家,idc官網(wǎng),算力,裸金屬,高電機(jī)房,邊緣算力,云網(wǎng)合一,北京機(jī)房,北京云計算,北京邊緣計算,北京裸金屬服務(wù)器,北京數(shù)據(jù)服務(wù)器,北京GPU服務(wù)器,高算力服務(wù)器,數(shù)據(jù)機(jī)房相關(guān)技術(shù)新聞最新報道
當(dāng)前，人工智能已經(jīng)成為企業(yè)數(shù)字化轉(zhuǎn)型的核心驅(qū)動力。隨著5G、物聯(lián)網(wǎng)等新興技術(shù)的飛速發(fā)展，在邊緣部署AI已經(jīng)成為主流技術(shù)趨勢。Arm物聯(lián)網(wǎng)事業(yè)部業(yè)務(wù)拓展副總裁馬健在近期接受記者采訪時表示，物聯(lián)網(wǎng)的興起極大推動了邊緣計算設(shè)備的普及。隨著 Transformer 與大模型技術(shù)的發(fā)展，AI 模型的普適性、多模態(tài)支持，以及模型微調(diào)效率都有了質(zhì)的突破，加之低功耗的 AI 加速器和專用芯片被集成到終端設(shè)備中，邊緣智能正變得越來越自主和強(qiáng)大。
為了滿足邊緣AI帶來的算力需求，Arm推出了新一代 Ethos-U AI加速器及全新物聯(lián)網(wǎng)參考設(shè)計平臺，加速推進(jìn)邊緣 AI 發(fā)展進(jìn)程。
在邊緣端部署人工智能應(yīng)用，將給我們的生活和工作帶來無限可能。
本次交流會上，馬健從智能家居應(yīng)用場景出發(fā)介紹了邊緣AI帶來的新機(jī)遇。她表示，在智能家居應(yīng)用中，人們目前大多通過智能手機(jī)中的不同應(yīng)用來手動控制各種電器開關(guān)與設(shè)置。未來，AI 模型就像一個家庭“大腦”，可以綜合家里各類傳感器、攝像頭，以及外部天氣、家人喜好、自然語言命令等多種輸入，更安全、更節(jié)能地營造個性化的家居環(huán)境。
此外，AI 和大模型將使零售業(yè)變得更加智能化、個性化和自動化。通過個性化購物體驗、智能庫存管理、動態(tài)定價策略、線上線下無縫整合，以及自動化運營等，帶來更高的效率和更卓越的客戶體驗。AI 和大模型還有望推動工業(yè) 4.0 向工業(yè) 5.0 的轉(zhuǎn)變，實現(xiàn)智能化生產(chǎn)線、精準(zhǔn)的質(zhì)量控制、個性化定制生產(chǎn)、供應(yīng)鏈優(yōu)化、自主維護(hù)與遠(yuǎn)程監(jiān)控、人機(jī)協(xié)作、節(jié)能減排，以及新材料和工藝的開發(fā)等，為制造業(yè)帶來一場深刻的變革。
馬健強(qiáng)調(diào)，雖然邊緣AI帶來了很多機(jī)遇，但同樣也面臨著很多挑戰(zhàn)。
第一，在設(shè)計邊緣 AI 芯片和系統(tǒng)時，需要在計算能力和能效之間找到合適的平衡。
第二，高性能的處理能力往往伴隨著更高的功耗，而邊緣設(shè)備往往對功耗和成本都有著嚴(yán)格限制。
第三，越來越多的數(shù)據(jù)在邊緣被處理，數(shù)據(jù)安全和隱私保護(hù)變得尤為重要。因此，邊緣AI要求芯片設(shè)計時必須包含加密和安全功能。
第四，由于邊緣AI用例五花八門，為了更好地統(tǒng)一多樣化的應(yīng)用要求，達(dá)到規(guī)?；б?，軟件定義和適于軟件移植的標(biāo)準(zhǔn)更是必不可少。
idc網(wǎng),算力,裸金屬,高電機(jī)房,邊緣算力,云網(wǎng)合一,北京機(jī)房,北京云計算,北京邊緣計算,北京裸金屬服務(wù)器,北京數(shù)據(jù)服務(wù)器,北京GPU服務(wù)器,高算力服務(wù)器,數(shù)據(jù)機(jī)房為了幫助用戶解決部署邊緣AI的各種挑戰(zhàn)，Arm在 IP、參考設(shè)計和軟件標(biāo)準(zhǔn)上持續(xù)投入，不但持續(xù)推出了高性能低功耗的各類產(chǎn)品，而且還從軟件、工具和生態(tài)等各個維度入手，用最簡單的方式幫助用戶應(yīng)對挑戰(zhàn)，推動邊緣AI的發(fā)展。
為了解決性能、功耗和安全等邊緣AI面臨的各項挑戰(zhàn)，Arm重磅發(fā)布了新一代Ethos-U AI加速器。
據(jù)馬健介紹，與上一代產(chǎn)品相比，Ethos-U85 性能提升四倍，能效提高 20%，同時，其 MAC 單元可從 128 個擴(kuò)展到 2048 個（在 1GHz 時，算力實現(xiàn) 4 TOPs），能夠為諸如工廠自動化和商用或智能家居攝像頭等需要更高性能的應(yīng)用提供有力的支持。Ethos-U85提供了相同的一致工具鏈，因此合作伙伴能夠利用現(xiàn)有的投資，達(dá)到無縫的開發(fā)者體驗。更重要的是，全新 Ethos-U85 NPU 支持了 TensorFlow Lite 和 PyTorch 等 AI 框架。
馬健表示，Ethos-U85不僅僅提供卷積神經(jīng)網(wǎng)絡(luò) (CNN) 所需的權(quán)重矩陣乘的運算，還支持矩陣相乘，這是 Transformer 架構(gòu)網(wǎng)絡(luò)的一個基本組成部分?；?Transformer 的模型具有優(yōu)異的泛化功能，它將更快地驅(qū)動新 AI 應(yīng)用的發(fā)展。Transformer 在視覺和生成式 AI 用例中，比如視頻理解、圖文結(jié)合，圖像增強(qiáng)與生成、圖像分類和目標(biāo)檢測等方面都極有價值。
“Transformer 架構(gòu)網(wǎng)絡(luò)的注意力機(jī)制容易利用并行計算來實現(xiàn)，提高硬件使用效率，使得這些模型能夠部署在計算資源有限的邊緣設(shè)備上?！?馬健表示，開發(fā)者可以通過選用針對 Transformer 架構(gòu)網(wǎng)絡(luò)優(yōu)化的設(shè)計，發(fā)掘邊緣 AI 的新機(jī)遇，使這些應(yīng)用享有更快的推理、更優(yōu)化的模型性能和可擴(kuò)展性。
除此之外，在高性能邊緣計算系統(tǒng)中，應(yīng)用處理器、標(biāo)準(zhǔn)操作系統(tǒng)、高級開發(fā)語言的部署變得越來越多。由于這種模式更有利于云原生開發(fā)和云邊端負(fù)載調(diào)度，尤其是在處理數(shù)據(jù)量日益增長的 AI 應(yīng)用系統(tǒng)中，這個趨勢尤為顯著。Ethos-U85 專為與 Arm 領(lǐng)先的 Armv9 Cortex-A CPU 相結(jié)合而設(shè)計，將為基于應(yīng)用處理器的智能物聯(lián)網(wǎng)平臺上運行的 AI 任務(wù)實現(xiàn)加速，能夠在工業(yè)機(jī)器視覺、邊緣網(wǎng)關(guān)、可穿戴設(shè)備和消費類機(jī)器人等應(yīng)用中帶來高效能的邊緣推理能力。
據(jù)了解，Arm Ethos NPU 系列產(chǎn)品已有逾 20 家授權(quán)許可合作伙伴，其中，Alif Semiconductor 和英飛凌成為全新 Arm Ethos-U85 NPU 的早期采用者。
除了發(fā)布全新的Ethos-U85 AI加速器之外，Arm還同步推出了Corstone-320全新物聯(lián)網(wǎng)參考設(shè)計平臺，以此來加速語音、音頻和視覺系統(tǒng)的部署。
據(jù)了解，Arm Corstone-320 物聯(lián)網(wǎng)參考設(shè)計平臺集成了 Arm 最高性能的 Cortex-M CPU——Cortex-M85、Mali-C55 ISP和全新的 Ethos-U85 NPU，為語音、音頻和視覺等廣泛的邊緣 AI 應(yīng)用提供了所需的性能，例如實時圖像分類和目標(biāo)識別，或在智能音箱上啟用具有自然語言翻譯功能的語音助手。
馬健表示，Arm Corstone-320 物聯(lián)網(wǎng)參考設(shè)計平臺涵蓋了軟件、工具和支持，其中包括 Arm 虛擬硬件。該平臺的軟硬件結(jié)合特性將使開發(fā)者能夠在物理芯片就緒前便啟動軟件開發(fā)工作，從而加速推進(jìn)產(chǎn)品進(jìn)程，為日益復(fù)雜的邊緣 AI 設(shè)備縮短上市時間。
“Corstone-320 不僅提供芯片計算子系統(tǒng) IP 組合，還附帶了軟件、AI 模型庫和開發(fā)工具，以實現(xiàn)軟件的復(fù)用，同時，該平臺利用了 Arm 強(qiáng)大的生態(tài)系統(tǒng)，附帶了仿真 Corstone-320 完整系統(tǒng)的 Arm 虛擬硬件，以及單獨的 CPU 和 NPU 的固定虛擬平臺 (FVP) 模型，以簡化開發(fā)并加速產(chǎn)品設(shè)計，支持軟硬件并行協(xié)同開發(fā)?！?馬健表示，這種提供邊緣 AI 和智能物聯(lián)網(wǎng)計算子系統(tǒng)全套軟硬件和工具鏈的方法，使得我們的合作伙伴能夠在一系列性能點上快速開發(fā)，并聚焦于打造差異化價值。
據(jù)馬健介紹，目前全球約有 90% 的 AI 都運行在基于 Arm 架構(gòu)的 CPU 上，這些持續(xù)投入使 Arm 成為全球最普遍的 AI 計算平臺之一，吸引了越來越多的開發(fā)者加入，而 Arm 也將與生態(tài)伙伴們砥礪奮進(jìn)，釋放前所未有的 AI 潛力。
“智能必須無處不在，云邊端缺一不可。Arm 推出的 Ethos-U85 以及 Corstone-320， 旨在加速 AI 系統(tǒng)的快速落地，促進(jìn)未來多模態(tài)智能應(yīng)用的全方位部署?！?采訪最后，馬健如是說。
