自研芯片會是改變云計(jì)算游戲規(guī)則的關(guān)鍵么？亞馬遜云科技認(rèn)為的確如此。
在2021年亞馬遜云科技re:Invent全球大會上，亞馬遜云科技公布了其最新芯片研究成果，包括自研CPU處理器Amazon Graviton3，這是亞馬遜云科技自研設(shè)計(jì)的第三顆CPU處理器。
同時，繼去年宣布研制機(jī)器學(xué)習(xí)訓(xùn)練芯片Amazon Trainium后，亞馬遜云科技于今年宣布提供基于Trainium的實(shí)例。與P4d實(shí)例相比，由Amazon Trainium芯片支持的Trn1實(shí)例訓(xùn)練深度學(xué)習(xí)模型的成本降低多達(dá)40%。
在固態(tài)硬盤層面，基于Amazon Nitro SSD固態(tài)硬盤的Im4gn/Is4gen/ I4i實(shí)例也正式發(fā)布。通過自研的 Amazon Nitro SSD，Im4gn/Is4gen/I4i實(shí)例提供高達(dá) 30 TB 的 NVMe 存儲，與上一代I3實(shí)例相比，I/O 延遲降低了 60%，延遲可變性降低了 75%。
云計(jì)算發(fā)展十余年來，正在變得越來越硬，直至底層芯片。同開創(chuàng)云時代一樣，自研芯片的風(fēng)潮很大程度上也是由亞馬遜云科技開始，國內(nèi)外云廠商不斷跟進(jìn)，例如阿里云自研CPU倚天710、AI推理芯片含光800等，騰訊云的AI推理芯片“紫霄”等。
自研芯片并不是云廠商開展業(yè)務(wù)的必需，但卻決定了云廠商的天花板，象征著云巨頭的身份。
亞馬遜云科技大中華區(qū)產(chǎn)品部總經(jīng)理顧凡
對于自研芯片的驅(qū)動力，亞馬遜云科技大中華區(qū)產(chǎn)品部總經(jīng)理顧凡是這樣解釋的，“客戶對云上性價比的追求永遠(yuǎn)不會有止境，同時，未來云上的新型工作負(fù)載對于計(jì)算創(chuàng)新的要求也是無止境的。而發(fā)生在底層的創(chuàng)新，往往最具備顛覆性。半導(dǎo)體和芯片層面的創(chuàng)新會是改變云計(jì)算游戲規(guī)則一個非常重要的能力。”
自研芯片比之云服務(wù)更具挑戰(zhàn)，即使是亞馬遜云科技，也在自研芯片的過程中也面臨諸多權(quán)衡的選擇。
提高頻率or增加內(nèi)核數(shù)量？
Graviton3相較于Graviton2多出200億個晶體管，如何利用這200億個晶體管，來實(shí)現(xiàn)最佳的性能和效率，是亞馬遜在這一代芯片中要深入思考的問題。
亞馬遜云科技大中華區(qū)產(chǎn)品部計(jì)算與存儲總監(jiān)周舸說道，“原則很簡單，我們得從工作負(fù)載去看，從客戶真正怎么使用這些設(shè)備去看，找到我們的起點(diǎn)。”
通常提升CPU性能的兩個方向，提高頻率或者增加內(nèi)核數(shù)量，提高頻率確實(shí)可以快速提升性能，而且大多數(shù)時候這種性能提升對所有的工作負(fù)載都有效。
但提高頻率有局限性，以現(xiàn)在半導(dǎo)體的功率和能力，提高頻率意味著產(chǎn)生更多的熱量，散熱會是一個大問題，尤其是在超大規(guī)模數(shù)據(jù)中心里，高頻帶來高能耗，高能耗帶來高熱量，高熱量要求更高的散熱效率，反而提升了耗電量，企業(yè)用云成本不降反升。
因此亞馬遜云科技選擇讓內(nèi)核的“寬度”增加，即使用指令并行的方式，讓內(nèi)核在同一個時鐘周期里執(zhí)行更多的指令、完成更多的任務(wù)，這樣不用增加內(nèi)核數(shù)量也能提高業(yè)務(wù)運(yùn)行效率。
根據(jù)亞馬遜云科技給出的數(shù)據(jù)，由Amazon Graviton3處理器支持的C7g實(shí)例與由 Graviton2 處理器支持的當(dāng)前一代 C6g 實(shí)例相比，可將計(jì)算密集型工作負(fù)載性能提高多達(dá)25%。Amazon Graviton3處理器與Graviton2相比，為科學(xué)計(jì)算、機(jī)器學(xué)習(xí)和媒體編碼工作負(fù)載提供高達(dá)2倍的浮點(diǎn)運(yùn)算性能，為加密工作負(fù)載速度提升高達(dá)2倍，為機(jī)器學(xué)習(xí)工作負(fù)載提供高達(dá)3倍的性能。
增加核數(shù)or降低內(nèi)存時延
如前所述，增加核數(shù)也是提高芯片性能快且有效的辦法，Graviton從第一代到第二代，亞馬遜云科技就選擇增加核數(shù)，實(shí)現(xiàn)了不錯的效果。
新的選擇題出現(xiàn)，亞馬遜云科技是將剩下的晶體管繼續(xù)增加更多的核，還是去增加CPU內(nèi)存的帶寬和降低它的延遲？
“到了第三代的時候，我們研究在Graviton2上運(yùn)行的工作負(fù)載，發(fā)現(xiàn)有大量工作負(fù)載是大數(shù)據(jù)類型，大量是微服務(wù)架構(gòu)的，甚至一些HPC的服務(wù)等，這些服務(wù)對內(nèi)存的帶寬和延時的敏感度非常高，我們的判斷是——在內(nèi)存下工夫，會比增加核數(shù)的效果更好。”周舸表示。
C7g實(shí)例是云中第一個采用最新DDR5內(nèi)存的實(shí)例，與基于Amazon Graviton2的實(shí)例相比，它提高了50%的內(nèi)存帶寬，從而提高了科學(xué)計(jì)算等內(nèi)存密集型應(yīng)用的性能。
與基于Amazon Graviton2的實(shí)例相比，C7g實(shí)例的網(wǎng)絡(luò)帶寬也高出20%。C7g 實(shí)例支持 Elastic Fabric Adapter (EFA)，允許應(yīng)用程序直接與網(wǎng)絡(luò)接口卡通信，提供更低且更一致的延遲，提高需要大規(guī)模并行處理（如高性能計(jì)算和視頻編碼）的應(yīng)用程序的性能。
客戶的反饋也說明了這一點(diǎn)，Twitter部分業(yè)務(wù)性能提升20%到80%；F1流體仿真在Graviton2的基礎(chǔ)上提升40%。
與此同時，通過增加內(nèi)存帶寬和降低內(nèi)存時延的方法，Graviton3的功耗降低了60%，保持了更好的能效比，企業(yè)客戶無需付出很高的成本代價，也能獲得性能的提升。
“亞馬遜云科技是云廠商里面最早做自研芯片的，今天我們擁有Nitro、Graviton、人工智能機(jī)器學(xué)習(xí)自研芯片三條產(chǎn)品線，自研芯片需要經(jīng)驗(yàn)積累，并不是花錢就能買來的，亞馬遜云科技從對云上所有客戶工作負(fù)載的深刻理解，逆向工作設(shè)計(jì)芯片，是我們在重構(gòu)云計(jì)算底座自研芯片里面的最大優(yōu)勢?！鳖櫡脖硎尽?/p>
