| 亞馬遜自研芯片背后的大潮流 |
| 來源:未知 | 發(fā)布時間:1641175451 | 瀏覽次數(shù)：
|
亞馬遜網(wǎng)絡(luò)服務(wù)上個月擴大了其芯片影響力，主要是推出了這家巨型云提供商的第三代基于Arm的Graviton處理器，該處理器將為針對計算密集型工作負載的新云實例提供動力，如高性能計算(HPC)、科學建模、分析和基于CPU的機器學習推理。
在AWS的re:Invent會議上，該公司公布了目前處于預覽階段的Graviton3處理器，以及將在這些處理器上運行的EC2C7g實例。同時，AWSCEOAdamSelipsky還宣布了運行在該公司一年前的Trainium芯片上的新Trn1實例，針對機器學習訓練工作負載，并吹噓了2019年推出并利用Inferentia芯片的Inf1實例的性價比能力，為機器學習推理任務(wù)。
該公司甚至宣布了存儲優(yōu)化的EC2實例——Im4gn/Is4gen/I4i——基于其Nitro固態(tài)驅(qū)動器(SSD)，以提高AWS云中I/O密集型工作負載的存儲性能。
AWS專注于芯片
最新處理器和EC2實例的推出是AWS多年來努力構(gòu)建自己的處理器以在其云實例及其Outposts基礎(chǔ)設(shè)施中運行的最新證明，這些基礎(chǔ)設(shè)施旨在提供AWS服務(wù)和連接到-在企業(yè)采用混合云模型快速增長的時候部署數(shù)據(jù)中心。
這一切發(fā)生在AWS于2016年收購以色列初創(chuàng)公司AnnapurnaLabs五年之后，這使其成為其芯片制造工作的基礎(chǔ)。
MoorInsightsandStrategy的首席分析師PatrickMoorhead告訴TheNewStack：“AWS已經(jīng)在自己的芯片上投入了數(shù)年時間，從Nitro開始，擴展到通用Graviton、用于推理的Inferentia，以及現(xiàn)在用于訓練的Trainium。”“AWS可以挑選它想要的每一個功能，以及它不需要利用自己軟件的每一個功能。它還可以針對其特定的網(wǎng)絡(luò)和存儲優(yōu)化其I/O。在規(guī)模上，這應該允許它以更低的成本提供計算，并在某些情況下提供更高的性能，亞馬遜自研芯片背后的大潮流。”
Moorhead說，英特爾、AMD和Nvidia服務(wù)于更廣泛的市場，跨越多種環(huán)境，一些客戶并沒有使用所有功能。AWS正在使用本土計算來區(qū)分其實例。
性價比是關(guān)鍵
在他的主題演講中，Selipsky強調(diào)企業(yè)將看到在利用AWS芯片而不是來自英特爾和AMD的x86CPU或來自這些供應商和Nvidia的GPU的實例上運行人工智能、機器學習和分析等工作負載的性價比優(yōu)勢。
“借助Trainium和Inferentia，客戶可以獲得最佳的機器學習性價比，從擴展訓練工作負載到通過高性能推理加速生產(chǎn)中的深度學習工作負載，讓所有客戶都可以使用機器學習的全部功能，”CEO說。“長期以來，這一直是我們的目標，降低訓練和推理的成本是這一旅程的主要步驟。”
AWS沒有透露關(guān)于Graviton3的很多細節(jié)。他說，隨著新的硅情況下為25％，快于Graviton2運行的通用計算工作負載作為動力的情況下，并會更好一些專門的工作負載。例如，它在科學工作負載和加密作業(yè)的浮點性能方面是兩倍。運行機器學習應用程序的速度也快了三倍。
電源效率的一個因素
Graviton3將在相同性能下使用多達60%的能量，部分原因是使用DDR5內(nèi)存，它比DDR4消耗更少的功率，同時提供50%的帶寬。該處理器將運行多達64個內(nèi)核，擁有500億個晶體管，時鐘速度為2.6GHz。
AWS副總裁JeffBarr在博客文章中寫道，基于Graviton3的C7g云實例將提供各種尺寸，包括裸機模型。
基于Inferentia和Trainium的實例還旨在降低運行特定工作負載的成本。Selipsky說，Inf1實例的每次推理成本比類似的基于GPU的EC實例低70%。同時，Trainium驅(qū)動的Trn1實例針對自然語言處理和圖像識別等工作，將提供兩倍于基于GPU的實例的帶寬——高達800Gb/s的EFA網(wǎng)絡(luò)吞吐量。
企業(yè)還將能夠在EC2UltraClusters中部署Trn1實例，該實例可以擴展到數(shù)萬個Trainium芯片并達到PB級。這些UltraCluster將比之前的EC2UltraCluster大2.5倍。
“Inferentia和Trainium都是為了在生產(chǎn)級推理和核心訓練中省錢，”Moorhead說。“AWS一直堅持其在節(jié)省資金方面的立場，因此，在我看到Trainium結(jié)果之前，我非常有信心在某些工作負載上，您會看到顯著的節(jié)省。”
定制芯片的趨勢
Graviton、Inferentia和Trainium是行業(yè)向?qū)Ｓ锰幚砥靼l(fā)展的更廣泛趨勢的一部分。在本周的一篇博客文章中，Arm基礎(chǔ)設(shè)施業(yè)務(wù)線的高級副總裁兼總經(jīng)理ChrisBergey寫道，他的公司設(shè)計芯片并將這些設(shè)計授權(quán)給其他公司，正以其高能效推動這一設(shè)計趨勢。
“數(shù)據(jù)中心工作負載和互聯(lián)網(wǎng)流量幾乎每兩年翻一番，因此每瓦性能優(yōu)勢對于防止計算增加其碳足跡至關(guān)重要，”Bergey寫道，并補充說Arm在云中的增長“讓開發(fā)人員可以選擇通過在每個核心的基礎(chǔ)上提供一致的性能和可擴展性，繼續(xù)可持續(xù)創(chuàng)新，實現(xiàn)可擴展的性能和效率的組合，以提供行業(yè)領(lǐng)先的TCO。”
AWS并不是唯一一家希望設(shè)計自己的芯片的超大規(guī)模企業(yè)，因為他們尋求更高的性能和效率。據(jù)報道，微軟去年決定構(gòu)建基于Arm的芯片，用于Azure服務(wù)器和谷歌，谷歌擁有諸如張量處理單元和OpenTitan安全芯片等定制芯片。Facebook也在構(gòu)建自己的數(shù)據(jù)中心芯片。
構(gòu)建自己的處理器的挑戰(zhàn)
TheEnderleGroup的首席分析師RobEnderle告訴TheNewStack，他不確定這將如何發(fā)展。
“當公司達到一定規(guī)模時，他們傾向于相信他們的內(nèi)部規(guī)模經(jīng)濟將使他們能夠與專注的供應商作為同行有效競爭，”Enderle說。“這一最新趨勢很大程度上是英特爾錯過了許多關(guān)鍵里程碑的結(jié)果……迫使云行業(yè)的大多數(shù)人考慮這條道路。”
然而，在CEOPatGelsinger的領(lǐng)導下，英特爾的執(zhí)行力正在提高。他說，與此同時，AMD的EpycCPU和GPU繼續(xù)給人留下深刻印象，這表明對定制芯片的需求可能正在減少。
“在供應短缺時期，像AMD和英特爾這樣的公司也可能更容易工作，而不是單獨行動，因為這些公司不僅應該有更好的供應冗余，而且還應該能夠更好地轉(zhuǎn)移內(nèi)部決策者的責備如果短缺甚至超出了他們的控制范圍，”Enderle說。“成本確實仍然是單打獨斗的潛在優(yōu)勢，但前提是你忽略了各家公司的知識產(chǎn)權(quán)保護和數(shù)十年經(jīng)驗的價值，這些經(jīng)驗通常會提供相互抵消的可靠性、一致性和性能優(yōu)勢。”
此外，隨著時間的推移，成本會增加，內(nèi)部努力可能變得無利可圖且不可持續(xù)。分析師表示，部分原因是很難找到和留住所需的人才，這是在熟練員工嚴重短缺的時期面臨的一項特殊挑戰(zhàn)。
“雖然過去并不總是能預測未來，而且AWS規(guī)模的公司可以成功地完成即使是最大的企業(yè)也無法做到的事情”Enderle說，他進一步指出，“只要專業(yè)化公司的基本優(yōu)勢在執(zhí)行，它們就仍然有效。” |
| |
上一篇：IC分銷商：8英寸產(chǎn)能吃緊將繼續(xù)推升明年Q1芯片價格
下一篇：受西安封控管理影響，三星NAND Flash生產(chǎn)調(diào)整人力與部分稼動 |
