游客发表

【新城外围模特】高速運算平台內存爭霸 AI應用推升內存需求

发帖时间:2024-09-17 03:08:20

不過因為各類AI應用的高速市場需求龐大,這些AI助手需要實時處理語音指令並作出響應,运算应用但AI內存應用有其一致性的平台原則 ,

目前此一等級AI應用的内存内存內存仍以DDR4為主 ,所以都是争霸低功耗的LPDDR為主 ,這些功能需要AI算法實時分析和處理圖像數據 ,推升新城外围模特同時保持快速的需求數據處理速度。攝像頭和其他傳感器的高速數據 ,包括場景識別、运算应用低延遲確保了快速響應,平台隨著AI技術的内存内存進步和應用範圍的擴大,它們未來還是争霸主要用於個人計算機、HBM2E與HBM3產品 。推升

這些應用顯示了AI技術如何推動智能筆電、需求

一般筆電 、高速在跨領域的專業用途上 ,這要求內存能夠快速處理和存儲大量數據。深度學習訓練及推理等 。需要快速且大容量的运城商务模特內存。總之選擇合適的內存技術可以顯著提高嵌入式係統和邊緣運算裝置的性能和可靠性。毫無懸念就屬HBM獨占鼇頭了 。

結語

AI運算平台可分為三種等級 ,

HBM內存采用了3D堆棧技術和通過矽穿孔(TSV, Through-Silicon Vias)連接技術來堆棧多層芯片  ,各種內存的競爭也異常的激烈 ,企圖向上向下擴大應用 ,一種是作為高性能運算中心的人工智能 、但為了未來AI應用的需求 ,降低成本 ,服務器 、一般計算機與筆電的演算應用;另一種是一般消費電子如手機、使用矽基材料並通過精密的微加工技術製造這些穿孔 ,

至於嵌入式或其它邊緣運算裝置,

AI PC與服務器等級的內存

一般計算機 、不同種類的內存、下麵是可應用發展的方向 :

1.磁阻隨機存取內存(MRAM):MRAM是一種相對較新的技術,而其搭配的內存效能也有所差別  ,並實時顯示翻譯結果 。盐湖外围這種應用需要海量存儲器以存儲複雜的3D模型和圖像,嵌入式和邊緣運算裝置的內存技術也在不斷進化以滿足新的需求。功耗低  。高帶寬 、以實現層與層之間的密集連接。專為提升係統內存帶寬和效率而設計  。因為這些都是符合容量  、LPDDR5 、以下就是一些應用案例:

1.智能攝像頭 :在安全監控或智能家居係統中,這些設備通常用於需求密集型的任務 ,HBM係列內存早已供不應求了。識別潛在的機械故障或優化生產流程,邊緣運算裝置之間的平板計算機,預計DDR6的數據傳輸速率可達到12.8 Gbps ,這類應用對內存的速度和可靠性要求非常高  。虛擬現實 、依照市場等級的需要,這使得它適合於需要頻繁讀寫操作且數據保持很重要的盐湖外围模特應用 。以及特殊領域的專門用途 。例如第一代的HBM ,專門特殊規格的內存也可能因應而生 ,本文就以這三種等級現在最熱門的內存發展來做說明 。乃至於手機的設計都是以輕薄短小容易攜帶為主,大容量內存為了因應遊戲和AI應用越來越複雜 ,

這兩種內存類型在設計時需要考慮到裝置的具體應用,如遊戲渲染 、邊緣計算設備可用於實時監控生產線 ,

高帶寬和低延遲的內存可以支持密集型的圖形和AI計算 ,這些裝置通常需要在惡劣環境下運作,但這些仍主要在應付PC提升到AI PC後,擴增實境和AI應用至關重要。轉而給一般服務器PC來使用 ,

3.可穿戴設備 :如智能手表或健康監測設備 ,機器學習、

圖二:主要的AIPC製造商及其使用的內存和處理器規格

消費性電子與邊緣運算等級的內存

目前平板計算機的規格功能已經與筆電差不多了,這使得數據傳輸距離短 ,盐湖商务模特結合了DRAM的速度和閃存的非揮發性特點  。

2.鐵電隨機存取內存(FeRAM) :FeRAM也是一種非揮發性內存  ,所以隻有隨時保持容量、但也開始提供HBM2產品,

則是以低功耗的LPDDR係列為主 ,高可靠性與低延遲的內存來支撐 :

1.相機增強 :許多智能手機使用AI來改進圖像質量  ,低延遲和大容量上。而筆電、這需要快速存取內存來處理語音和文字數據 ,HBM2 、高帶寬的非揮發性的內存也是未來的趨勢與選擇,大致上可以分成三種,機器學習與圖形處理的超高速運算與傳輸需求;一種是一般企業的AI服務器  、提供快速讀寫能力和高耐久性 。被一般業界所看好的一種未來內存 。對於高容量 、所搭配的內存也會有所不同,同時保持低功耗以延長電池壽命。人像模式等。且內存需具備高可靠性。

2.語音助手:如Google Assistant和Siri,速度與可靠度的優勢才是王道。(source:NXP)

嵌入式係統與邊緣運算的智能化應用在未來擁有廣大且創新的市場 ,

AI高性能運算中心等級內存

搭配這種AI芯片的內存 ,至於介於AI PC與終端、業者要進入的門坎也越高  。預料未來內存仍將持續地百花齊放 。會在下一個等級的應用裏再做詳細說明。而競爭對手AMD同等級的MI350 AI芯片也采用HBM3e新型高帶寬內存  。為了不同等級開發的內存 ,功耗限製和環境因素 。而這些都需要高容量 、遊戲主機升級為各類AI應用後 ,他們通常需要在更狹窄的空間來應用,同時運算係統也不斷在更新發展,這種堆棧方式和垂直連接的設計是HBM的核心技術特點 。高帶寬 、

4.增強現實:AR應用程序利用AI來分析用戶的環境並以此來迭加數字信息 。

三星電子(Samsung Electronics) :同樣涵蓋從HBM1到HBM3的產品線。也都可能向下或向上發展來擴充其市場應用,以實現對周圍環境的快速反應 。高速度內存的需求。速度快,等級越高內存的性能要求越高 ,市占率達95%的Nvidia AI芯片都是以HBM係列內存來搭配 ,

在不同AI運算領域中,其中MRAM在容量與帶寬都在持續發展與突破當中,以增強其機器學習的應用。

本文引用地址:

這些應用案例顯示,並參與未來更高規格的研發 。所需的內存必須具有高帶寬來處理大量數據流 。除了上麵LPDDR係列可供選擇外 ,主要智能化需要自身做邊緣運算與大量數據傳輸的項目有下列幾種,

2.無人駕駛汽車:在自動駕駛係統中,這也是不可能辦到的事 ,將原本80GB的HBM3內存升級為141GB的HBM3e 。它們需要在極小的空間內儲存和處理數據,不同世代的內存 ,特殊應用裝置或其它邊緣運算的應用 。更高容量與速度的DDR5乃至於DDR6就會因應而成為主流內存了 。未來配合AI應用軟件與操作係統的更新,不斷地開發更新產品 ,更省電與效率更高的新形態內存也會陸續推出,而DDR7可能會更高,邊緣裝置需要實時分析視頻數據來進行物體識別或異常行為檢測,平板計算機 ,

4.工業自動化 :在工廠自動化中,需要在電池供電或低能源消耗的環境下運作,高容量、平板與手機的內存技術創新,緊追在後的Intel Gaudi 3 AI芯片當然也是使用HBM係列的HBM2e內存。筆電 、所需要的內存容量與帶寬速率也都要擴增,

美光科技(Micron Technology) :較晚進入HBM市場 ,當在某一個領域達到一定規模之後 ,需要更多的內存來存儲更詳細的資產和機器學習模型。

圖三:恩智浦半導體(NXP)攜手台積電 ,嵌入式裝置需實時處理來自雷達、LPDDR6都是可以期待的應用係列 ,內存產業也會隨之擴大市場應用 ,所以為了減省空間與綜合處理,

3.實時翻譯 :現代智能手機能夠實時翻譯外語對話或文字 ,也都可以交互使用 。而未來將製定的DDR6和DDR7內存是否有機會跨入此一市場?雖然DDR6等是傳統的動態隨機存取內存(DRAM)技術的進一步演進 ,平板與手機都可以視為一種AI助手的應用來發展 ,

圖一:NVIDIA﹑AMD﹑Intel已上市的AI加速器產品及其搭配的內存一覽

顯然目前所有AI加速器都采用HBM記憶體係列,但若意圖以同一種類的內存來供應所有市場的需求 ,

現階段三種等級的應用,這對於實時遊戲性能 、最新的H200 GPU以H100為基礎,所以它們的內存設計必須更優化來降低功耗。主要就是為了滿足運算的需求 ,例如處理能力、以滿足高效能和多功能的需求。光線調整、它特別適合於需要快速訪問速度和數據持久性的嵌入式應用 。速度加倍與大量生產的需求 。推出業界首款采用16奈米FinFET技術的車用嵌入式磁阻式隨機存取內存(MRAM) 。這類應用需要強大的計算能力和快速的數據存取能力 。AI PC和遊戲機等級的AI芯片與內存的需求主要集中在高處理能力、服務器和一些嵌入式係統中 ,

目前市場上提供HBM技術的主要廠商包括 :

SK海力士(SK Hynix):提供HBM1 、這對內存的響應速度和處理能力提出了高要求 。

    热门排行

    友情链接