法國施耐德模塊CPUPC-0984-385

法國施耐德模塊CPUPC-0984-385

在人工智能以及針對各種截然不同的終端市場和系統(tǒng)而設計的機器學習芯片快速發(fā)展的推動下，人們可選擇的存儲器/體系架構數(shù)量呈現(xiàn)爆炸式增長,。

在這些系統(tǒng)中,，某些系統(tǒng)的模型參數(shù)大小可能在100億到1000億之間，并且芯片或應用之間的差異可能會非常大,。神經(jīng)網(wǎng)絡的訓練和推理是當今復雜的工作負載之一,，這使得很難找到的存儲解決方案。這些系統(tǒng)消耗了大量的計算資源（主要是使用乘法累加運算）以及大量內(nèi)存帶寬,。系統(tǒng)任何一個環(huán)節(jié)的減速都可能對整個系統(tǒng)產(chǎn)生影響,。

這給內(nèi)存開發(fā)人員帶來了巨大的壓力，要求他們以的功耗,、面積和成本提供盡可能多的帶寬,。這一趨勢當前并沒有減弱的跡象,。神經(jīng)網(wǎng)絡模型規(guī)模逐年增長，為了訓練這些模型,，數(shù)據(jù)集也在不斷增長,。

“這些模型的規(guī)模和訓練集的大小每年都以大約一個數(shù)量級的速度增長，”來自Rambus公司的杰出發(fā)明家,、研究員StevenWoo說,。“今年年初，當?shù)淖匀徽Z言處理模型問世時,，它具有大約170億個參數(shù),，這個數(shù)字夠大了吧，但是,，今年夏天又出現(xiàn)了一個更新的版本,，參數(shù)的數(shù)量居然上升到了1750億。也就是說,，大約七個月的時間,，參數(shù)的數(shù)量就增加了整整10倍。”

20世紀80年代和90年代初的神經(jīng)網(wǎng)絡模型大約有100到1,，000個參數(shù)。“如果我有一個更大的模型,，我需要更多的樣本來訓練它,，因為每個參數(shù)都必須調(diào)整，”StevenWoo說,。“對于那些在技術領域缺乏耐心的人來說,，當您擁有更多數(shù)據(jù)時，您不想再在訓練上等待那么長的時間,。的出路是是擁有更多帶寬,。您必須能夠更快地將這些數(shù)據(jù)推送到系統(tǒng)中，并更快地將其提取出來,。帶寬是頭等大事,。”

另一個問題是能源。Woo表示：“如果您要做的只是將性能提高一倍,，同時所消耗的電量也增加一倍,，那么，生活就會很美好,。但是,，這不是它的運作方式，您實際上需要非常在乎功率問題,，因為您墻上的電源插座只能承受這么大的功率,。事實是,，人們確實希望將性能提高X倍，但同時他們希望能將能源效率提高2X倍,，這就是讓事情變得困難的地方,。”

這種權衡在AI推理應用方面更加困難。“今天,，AI/ML的訓練和推理之間的鴻溝越來越大,，”CadenceIP集團產(chǎn)品市場部總監(jiān)MarcGreenberg指出。“訓練需要大的內(nèi)存帶寬,，并且通常是在功能強大的服務器類型的機器或非常的GPU卡上進行的,。在訓練領域中，我們發(fā)現(xiàn),，高階訓練使用HBM內(nèi)存,，而低階訓練使用GDDR6內(nèi)存。HBM存儲器特別擅長以的單bit能量提供的帶寬,。HBM2/2E內(nèi)存可以在AI/ML處理器與每個存儲器堆棧之間提供高達每秒3.2/3.6TB的內(nèi)存帶寬,，而即將發(fā)布的HBM3標準則有望提供更高的帶寬。”

成本權衡

這種性能當然是有代價的,。Greenberg指出：“HBM作為一種解決方案,，有一個與之匹配的高價格自然無可厚非，這意味著HBM可能會繼續(xù)部署在服務器機房和其他應用中,。GDDR6技術有助于降低成本,，當今的器件可以通過技術以16Gbps的數(shù)據(jù)速率提供每秒512Gbit/s的速度，而且將來會出現(xiàn)更快的數(shù)據(jù)速率,。用戶將其中多個器件并行放置也很常見,。例如，某些圖形卡可以并行使用10個或更多GDDR6部件,，以達到5Tbps速度甚至更高的帶寬,。”

 石屹公司涉及產(chǎn)品廣泛擁有:

PLC、電力電纜,、變頻器,、人機界面、CPU,、調(diào)速器,、觸摸屏，伺服,，電源,、電機、數(shù)控、低壓配電,接觸器,、按鈕,、傳感器、斷路器,繼電器,、傳感器,、溫控器、軟啟動,、儀器儀表, 以及其他電工電器自動化設備,。

同時本公司還專業(yè)銷售:美國羅克韋爾AB（Rockwell-Automation Allen-Bradley）、丹麥丹佛斯（Danfoss),、法國施耐德(Schneider Electric),、德國西門子（SIEMENS)、瑞士ABB,、美國通用GE,、日本法那克FANUC、日本安川YASKAWA,、德國庫卡KUKA,、日本OTC、日本松下Panasonic,、美國NI, 德國SEW, 德國西克SICK,美國摩托羅拉MOTOMAN,、德國菲尼克斯PHOENIX、德國魏德米勒Weidmuller,、日本三菱 MITSUBISHI,、美國伊頓EATON、美國阿美特克AMETEK,、德國阿*ATLAS、美國HP/Agilent,、德國阿爾法Alpha, 德國Bosch Rexroth博世力士樂,、日本CKD、日本SMC日本康泰克CONTEC,、美國卡特拉-漢莫CUTLER HAMMER,、日本富士FUJI、德國倍加福P+F,、美國 MKS,、美國福克斯波羅 Foxboro Invensys(英維思) ,、日本歐姆龍OMRON,、德國德瑪格DEMAG、德國費斯托FESTO,、德國巴魯夫BALLUFF,、德國圖爾克TURCK,、等等的高低壓電器及工業(yè)自動化控制元件。

 1747-AENTR

1747-BA

1747-BAJMPR

1747-C10

1747-C11

1747-C13

1747-C20

1747-CP3

1747-DU501

1747-FC

1747-KY1

1747-L531

1747-L532

1747-L541

1747-L542

1747-L543

1747-L551

1747-L552

1747-L553

1747-M13

1747-M15

1747-OS302

1747-OS401

1747-RL302

1747-SDN

1747-SN

1747-UIC