【2021 re:Invent觀察之一】自研芯片成就亞馬遜云科技的算力優(yōu)勢
在re:Invent上，亞馬遜云科技重磅推出了三項自研底層技術(shù)。
新推出自研通用計算處理器。亞馬遜云科技宣布新一代基于Arm的自研CPU處理器Amazon Graviton3。這是亞馬遜云科技自研設(shè)計的第三顆CPU處理器。
由Amazon Graviton3處理器支持的C7g實例與由 Graviton2 處理器支持的當(dāng)前一代 C6g 實例相比，可將計算密集型工作負(fù)載性能提高多達25%。Amazon Graviton3處理器與Graviton2相比，為科學(xué)計算、機器學(xué)習(xí)和媒體編碼工作負(fù)載提供高達2倍的浮點運算性能，為加密工作負(fù)載速度提升高達2倍，為機器學(xué)習(xí)工作負(fù)載提供高達3倍的性能。
Amazon Graviton3處理器的能效也更高，在相同性能下，與同類型EC2實例對比，可節(jié)省高達60%的能源消耗。C7g實例是云中第一個采用最新DDR5內(nèi)存的實例，與基于Amazon Graviton2的實例相比，它提高了50%的內(nèi)存帶寬，從而提高了科學(xué)計算等內(nèi)存密集型應(yīng)用的性能。
與基于Amazon Graviton2的實例相比，C7g實例的網(wǎng)絡(luò)帶寬也高出20%。C7g 實例支持 Elastic Fabric Adapter (EFA)，允許應(yīng)用程序直接與網(wǎng)絡(luò)接口卡通信，提供更低且更一致的延遲，提高需要大規(guī)模并行處理（如高性能計算和視頻編碼）的應(yīng)用程序的性能。
中橋調(diào)研咨詢（Sino-bridges）首席分析師王叢指出：“5G和IoT的加速對于低能耗高性能AI推理算力提出新需求。亞馬遜云科技剛剛發(fā)布的Amazon Graviton3讓實例性能在上代Amazon Graviton2基礎(chǔ)上進一步提升20%, 能耗效率提高60%。對于中國用戶，不僅加快AI資源和AI創(chuàng)新能力的適配效率，同時，能夠支持持續(xù)技術(shù)升級，優(yōu)化AI/ML的長期投資保護。”
新推出自研機器學(xué)習(xí)訓(xùn)練芯片。亞馬遜云科技去年re:Invent 上宣布研制機器學(xué)習(xí)訓(xùn)練芯片Amazon Trainium，在今年的re:Invent上宣布提供基于Trainium的實例。
由Amazon Trainium芯片支持的Trn1實例為在Amazon EC2中進行深度學(xué)習(xí)模型訓(xùn)練提供最佳性價比以及最快的訓(xùn)練速度，與P4d實例相比，通過Trn1實例訓(xùn)練深度學(xué)習(xí)模型的成本降低多達40%。Trn1實例提供800Gbps EFA網(wǎng)絡(luò)帶寬（比最新基于GPU的EC2實例高兩倍），并與Amazon FSx for Lustre高性能存儲集成，讓客戶可以啟動具有EC2 UltraClusters功能的Trn1實例。通過EC2 UltraClusters，開發(fā)人員可以將機器學(xué)習(xí)訓(xùn)練擴展到一萬多個與 PB 級網(wǎng)絡(luò)互連的 Trainium 加速器，讓客戶按需訪問超算級性能，即便是最大型和最復(fù)雜的模型，訓(xùn)練時間也可以從幾個月縮短到幾天。
弗若斯特沙利文（Frost & Sullivan）咨詢總監(jiān)李慶評論說：“對于亞馬遜云科技發(fā)布的兩款定制芯片，我并不認(rèn)為其核心目的是為了與傳統(tǒng)芯片廠商進行競爭。按照亞馬遜云科技一貫以用戶需求為先的準(zhǔn)則，兩款芯片的發(fā)布也是自下而上的需求所致，兩大核心用戶需求首先是性能、其次是成本。目前對于計算場景的應(yīng)用復(fù)雜程度已經(jīng)倒逼芯片處理性能的提升。多重負(fù)載，尤其是在機器學(xué)習(xí)方面，芯片性能直接制約了算法的應(yīng)用，而在這方面亞馬遜云科技有先天的優(yōu)勢，批量數(shù)據(jù)處理，以及各類算法模型的積累都為自研新一代芯片提供了扎實的基礎(chǔ)。與現(xiàn)有的云服務(wù)一起打包軟硬一體的方案推向用戶顯然是可行的。但的確也對用戶提出了更大的挑戰(zhàn)，要重新調(diào)整原先軟件的架構(gòu)適配新型芯片。所以比起對過去傳統(tǒng)業(yè)務(wù)的調(diào)整，更多的用戶應(yīng)該是在新業(yè)務(wù)場景下的全新部署。當(dāng)然相對應(yīng)的亞馬遜云科技應(yīng)該也會陸續(xù)發(fā)布相關(guān)產(chǎn)品協(xié)助用戶實現(xiàn)新舊的遷移或者聯(lián)動。”
新推出自研固態(tài)硬盤。亞馬遜云科技還發(fā)布了采用全新Amazon Nitro SSD固態(tài)硬盤的Im4gn/Is4gen/ I4i實例，可為I/O密集型工作負(fù)載提供超高存儲性能。通過自研的 Amazon Nitro SSD，Im4gn/Is4gen/I4i實例提供高達 30 TB 的 NVMe 存儲，與上一代I3實例相比，I/O 延遲降低了 60%，延遲可變性降低了 75%，從而最大限度地提高了應(yīng)用程序性能。Amazon Nitro SSD通過優(yōu)化存儲堆棧、虛擬化管理程序和硬件與Amazon Nitro 系統(tǒng)緊密集成。與使用商用SSD相比，亞馬遜云科技同時管理Amazon Nitro SSDs的硬件和固件，使SSD更新交付速度更快，讓客戶可以從改進的功能中獲益。Im4gn 實例（現(xiàn)已可用）采用 Amazon Graviton2 處理器，與 I3 實例相比，性價比提高多達 40%，每 TB存儲成本降低多達 44%。Is4gen 實例（現(xiàn)已可用）也采用 Amazon Graviton2 處理器，與 I3en 實例相比，每 TB 存儲成本降低多達 15%，計算性能提高多達 48%。
亞馬遜云科技首席執(zhí)行官 Adam Selipsky 表示，“盡管我們已經(jīng)如此努力地創(chuàng)新，我們依然意識到，如果希望針對所有可能的工作負(fù)載徹底變革計算的性價比，我們需要徹底重新思考實例。為了實現(xiàn)這個目的，我們需要深入底層技術(shù)，一直到芯片。因此，我們開始自己設(shè)計基于Arm的芯片。”
加大底層技術(shù)自研，對亞馬遜云科技在這樣的領(lǐng)先者來說，其意義在于實現(xiàn)“我有人無，人有我優(yōu)”。縱觀云計算業(yè)界，基礎(chǔ)設(shè)施服務(wù)成為所有云服務(wù)商的基礎(chǔ)服務(wù)，未來制勝的關(guān)鍵在于，誰能以更高的性能、更高的效率、更低的成本、更低的能耗提供這些服務(wù)。
【2021 re:Invent觀察之二】大云無疆，無限拓展
作為全球覆蓋超級廣泛的云，亞馬遜云科技基礎(chǔ)設(shè)施遍及25個地理區(qū)域的81個可用區(qū)，并計劃新建9個區(qū)域和27個可用區(qū)，有14個本地擴展區(qū)域、17個Wavelength區(qū)域，有108個Direct Connect光纖直連站點，有310個邊緣站點和13個區(qū)域緩存站點。
在此基礎(chǔ)上，亞馬遜云科技宣布，2022年將在21個國家建設(shè)超過30個本地擴展區(qū)，讓客戶以更低的延遲服務(wù)其終端用戶。亞馬遜云科技2020年開始在美國建立了兩個本地擴展區(qū)，2021年增加了12個本地擴展區(qū)。2022年，建立本地擴展區(qū)的步伐將進一步加大。
不僅如此，亞馬遜云科技還通過一系列技術(shù)，將云延伸到亞馬遜云科技的基礎(chǔ)設(shè)施之外，包括Amazon Outposts、IoT 服務(wù)、Snow 家族服務(wù)，一直延伸到 Amazon Ground Station，讓云擴展到了太空的衛(wèi)星數(shù)據(jù)。Outposts將亞馬遜云科技的云體驗延伸到客戶的本地數(shù)據(jù)中心，跟云端無縫連接。IoT服務(wù)、Snow家族將云的能力延伸到地球上各個角落。 Amazon Ground Station是衛(wèi)星地面站服務(wù)，通過衛(wèi)星地面站接收數(shù)據(jù)到亞馬遜云科技區(qū)域進行處理。
亞馬遜云科技推出新的托管服務(wù)Amazon Private 5G，則是讓企業(yè)方便利用5G專網(wǎng)來連接企業(yè)內(nèi)的聯(lián)網(wǎng)傳感器和邊緣設(shè)備，并且通過亞馬遜云科技控制臺統(tǒng)一管理。
亞馬遜云科技還發(fā)布了新服務(wù)Amazon Cloud WAN，將亞馬遜云科技全球網(wǎng)絡(luò)的優(yōu)勢帶給企業(yè)，讓企業(yè)的廣域網(wǎng)跟云融為一體。
Amazon Cloud WAN讓企業(yè)可以在全球的亞馬遜云科技廣域網(wǎng)絡(luò)上建立、管理統(tǒng)一的云網(wǎng)絡(luò)和監(jiān)控全球流量。所有的遠(yuǎn)程用戶和站點以及數(shù)據(jù)中心將使用 VPN 或直接連接到地理位置最近的地方，實際上在幾分鐘內(nèi)亞馬遜云科技就可以構(gòu)建一個全球化網(wǎng)絡(luò)服務(wù)。
【2021 re:Invent觀察之三】一切為數(shù)據(jù)服務(wù)，數(shù)據(jù)創(chuàng)造價值
在re:Invent 全球大會上，亞馬遜機器學(xué)習(xí)副總裁 Swami Sivasubramanian的主題演講以《如何通過數(shù)據(jù)與人工智能進行創(chuàng)新》為題。Swami 指出，“數(shù)據(jù)是推動洞察的潛在力量，有助于更好地開展業(yè)務(wù)。”他列舉了飛利浦醫(yī)療、納斯達克等多種大數(shù)據(jù)的例子，”從大數(shù)據(jù)走向海量非結(jié)構(gòu)化數(shù)據(jù)，事實上80%的數(shù)據(jù)是非結(jié)構(gòu)化的。”
亞馬遜云科技為數(shù)據(jù)服務(wù)提供了完整的、端到端的工具，從數(shù)據(jù)存儲、到計算、分析、人工智能創(chuàng)新。利用廣泛而深入的云服務(wù)，憑借在數(shù)據(jù)領(lǐng)域的產(chǎn)品創(chuàng)新與前瞻眼光，亞馬遜云科技將助力企業(yè)實施現(xiàn)代化的端到端數(shù)據(jù)戰(zhàn)略，實現(xiàn)數(shù)據(jù)驅(qū)動的創(chuàng)新。
現(xiàn)代端到端數(shù)據(jù)戰(zhàn)略有三個要素：
● 數(shù)據(jù)架構(gòu)現(xiàn)代化。不同的場景需要使用專門構(gòu)建的工具，專門的工具需要專業(yè)的現(xiàn)代化托管平臺，在這方面，亞馬遜擁有無與倫比的成熟度和經(jīng)驗。
在已經(jīng)很豐富的數(shù)據(jù)服務(wù)組合之上，亞馬遜云科技又發(fā)布多個數(shù)據(jù)工具。
Amazon DevOps Guru for RDS是一個數(shù)據(jù)庫性能工具，它利用機器學(xué)習(xí)，可以在幾分鐘內(nèi)自動檢測、診斷和解決難以發(fā)現(xiàn)的數(shù)據(jù)庫性能問題。
Amazon RDS Custom 提供了 SQL Server支持，它通過托管式服務(wù)節(jié)省時間，幫助實現(xiàn)自動化版本維護與補丁升級，將寶貴的資源專注于更重要的業(yè)務(wù)。
另外一個重要的發(fā)布是Amazon Dynamodb 的新功能Standard-Infrequent Access表類，它可以將不頻繁訪問的表數(shù)據(jù)進行分類，DynamoDB 的存儲成本降低60%。
Amazon Database Migration Service Fleet Advisor 是一個數(shù)據(jù)庫遷移工具，它可以幫助客戶選擇最佳可用的計算實例和配置，用以部署機器學(xué)習(xí)模型，獲得最佳的推理性能和成本，并且將過去數(shù)周才能完成的工作縮短到數(shù)小時。
● 統(tǒng)一分析數(shù)據(jù)。通過云上專門工具實現(xiàn)數(shù)據(jù)有機整合與統(tǒng)一，助力企業(yè)打破數(shù)據(jù)孤島。
通過在亞馬遜云科技上運行的數(shù)據(jù)湖，能夠收集、存儲和分析來自一系列分散系統(tǒng)的數(shù)據(jù)，助力業(yè)務(wù)發(fā)展。
亞馬遜云科技為在 Amazon S3 上構(gòu)建數(shù)據(jù)湖提供了無與倫比的耐用性、可用性和可擴展性，以及強大的安全性和分析工具，使用亞馬遜云科技最新發(fā)布的數(shù)據(jù)湖構(gòu)建工具，可以快速構(gòu)建適合的數(shù)據(jù)湖，Amazon Athena 提供了一種有用的方法來分析所有數(shù)據(jù)，獲得見解。
利用 Amazon QuickSight Q，客戶可以快速、輕松地獲得答案，所有用戶無需培訓(xùn)即可訪問 BI。
● 基于數(shù)據(jù)進行業(yè)務(wù)創(chuàng)新。幫助數(shù)據(jù)進行創(chuàng)新的內(nèi)核是“從客戶角度出發(fā)”，企業(yè)植根于自身業(yè)務(wù)的創(chuàng)新訴求是創(chuàng)新的原動力，而人工智能等技術(shù)為創(chuàng)新提供了手段與方法。
本次re:Invent，亞馬遜云科技業(yè)界聞名的機器學(xué)習(xí)平臺Amazon SageMaker又添六項新功能。
亞馬遜云科技新推出的Amazon SageMaker Ground Truth Plus，讓用戶無需編寫任何代碼即可快速交付高質(zhì)量的訓(xùn)練數(shù)據(jù)集。數(shù)據(jù)是機器學(xué)習(xí)的燃料。不過，準(zhǔn)備數(shù)據(jù)的過程令人沮喪甚至令人憤怒。有了這項新功能，極大地解決了數(shù)據(jù)科學(xué)家準(zhǔn)備數(shù)據(jù)的痛點問題。
在模型構(gòu)建與算法編寫環(huán)節(jié)，新推出的Amazon SageMaker Studio Notebook 允許用戶訪問廣泛的數(shù)據(jù)源，在一個記事本中執(zhí)行數(shù)據(jù)工程、分析和機器學(xué)習(xí)工作流。
新推出的Training Compiler 模型訓(xùn)練編譯器，讓機器學(xué)習(xí)模型培訓(xùn)速度提高50%。Inference Recommender 模型推理推薦程序，可將部署時間從數(shù)周減少到數(shù)小時。Serverless Inference 無服務(wù)器推理，通過按使用付費的定價降低擁有成本。
【2021 re:Invent觀察之四】千方百計降低門檻，讓更多人用云計算進行業(yè)務(wù)創(chuàng)新
為了幫助客戶最大限度實現(xiàn)數(shù)據(jù)價值，亞馬遜云科技千方百計降低數(shù)據(jù)使用的門檻。無論是開發(fā)人員、運維人員、數(shù)據(jù)科學(xué)家、行業(yè)用戶，還是即將進入云計算行業(yè)的初學(xué)者，亞馬遜云科技都在不斷推出新的服務(wù)和功能，降低他們的使用門檻。
本次re:Invent上推出的很多新服務(wù)和新功能都具有這樣的意圖。前面介紹的QuickSight Q是一個例子。新推出的Amazon SageMaker Canvas又是另一個例子。它讓業(yè)務(wù)分析師能夠使用點擊式界面生成更準(zhǔn)確的機器學(xué)習(xí)預(yù)測，從而擴展了對機器學(xué)習(xí)的訪問，無需編碼。
IDC中國助理研究總監(jiān)盧言霞指出：“在大數(shù)據(jù)方面，亞馬遜云科技在數(shù)據(jù)融合、統(tǒng)一治理等方面幫助用戶管理數(shù)字化旅程，并加速將機器學(xué)習(xí)和人工智能加入到數(shù)據(jù)旅程。在機器學(xué)習(xí)方面，發(fā)布了Amazon SageMaker Canvas，無需代碼，通過簡單點擊即可完成整個機器學(xué)習(xí)工作流，值得沒有技術(shù)背景的分析師，以及聚焦業(yè)務(wù)分析層面但希望實時數(shù)據(jù)洞察的分析人群關(guān)注。”
新發(fā)布的Amazon SageMaker Studio Lab 是一項免費、無需配置的服務(wù)，開發(fā)者、學(xué)者和數(shù)據(jù)科學(xué)家，只要有創(chuàng)新的想法，立即就可以動手實踐機器學(xué)習(xí)。它也讓客戶將能夠?qū)Ｗ⒂趯嵺`機器學(xué)習(xí)與數(shù)據(jù)科學(xué)，無需設(shè)置或配置任何環(huán)境與機器。
為了將機器學(xué)習(xí)能力交到更多的人手中，亞馬遜云科技還將通過DeepRacer冠軍杯賽、培訓(xùn)與認(rèn)證、機器學(xué)習(xí)大學(xué)、機器學(xué)習(xí)納米學(xué)位等項目，計劃到 2025 年全球培訓(xùn) 2900 萬人。
亞馬遜云科技也宣布了1000萬美元亞馬遜云科技人工智能和機器學(xué)習(xí)獎學(xué)金（Amazon AI & ML Scholarship），用于獎勵全球范圍內(nèi)弱勢群體和服務(wù)設(shè)施欠缺地區(qū)的學(xué)生，幫助他們做好準(zhǔn)備，在未來從事機器學(xué)習(xí)相關(guān)工作。
艾瑞咨詢研究副總監(jiān)王成峰認(rèn)為，此次re:Invent大會一如既往地體現(xiàn)了亞馬遜云科技的卓越創(chuàng)新力和以客戶需求為導(dǎo)向的產(chǎn)品研發(fā)能力，場景賦能更加多元化、精益化，并致力于數(shù)字技術(shù)紅利的“普惠化”，面向更多非IT人群的終端應(yīng)用，令人印象深刻。
【2021 re:Invent觀察之五】低碳環(huán)保提上云開發(fā)者的議事日程
在re:Invent上，亞馬遜CTO Werner Vogels發(fā)布了亞馬遜云科技架構(gòu)完善（Well Architecture） 的第六個支柱：可持續(xù)發(fā)展，倡導(dǎo)用環(huán)保的最佳實踐來學(xué)習(xí)、測量、改進云端計算工作負(fù)載。
亞馬遜云科技架構(gòu)完善是一個設(shè)計和評估云上架構(gòu)的參考設(shè)計，旨在幫助云架構(gòu)師為應(yīng)用程序和工作負(fù)載構(gòu)建安全、高性能、高效的彈性基礎(chǔ)設(shè)施。AWS 架構(gòu)完善的框架最初只是一個白皮書，現(xiàn)在已經(jīng)發(fā)展成為一整套方法體系，包括特定于域的詳解、動手實驗和 AWS 架構(gòu)完善工具。
亞馬遜云科技架構(gòu)完善的框架為客戶和合作伙伴提供了一致性的方法，供他們評估架構(gòu)，實施能夠在使用中擴展的設(shè)計。
此前，亞馬遜云科技架構(gòu)完善有卓越運營、安全性、可靠性、性能效率、成本優(yōu)化五個支柱?，F(xiàn)在增加了可持續(xù)發(fā)展作為第六個支柱。
在亞馬遜云科技的倡導(dǎo)下，越來越多的構(gòu)建者在構(gòu)建云上應(yīng)用時，將把低碳環(huán)保作為衡量因素，不是一味追求最高性能、最低延時、最高畫質(zhì)等等，而是在低碳環(huán)保跟性能、延時、畫質(zhì)等因素做一個最佳的平衡。
亞馬遜云科技還提出了可持續(xù)發(fā)展的責(zé)任共擔(dān)模式：亞馬遜云科技負(fù)責(zé)云本身的可持續(xù)性，客戶要承擔(dān)在云上應(yīng)用的可持續(xù)性。
亞馬遜云科技義不容辭地為地球的可持續(xù)發(fā)展承擔(dān)責(zé)任。
科學(xué)家指出，全世界需要在 2050 年前將全球變暖限制在 1.5 攝氏度以內(nèi)，時間非常緊迫，必須取得前所未有的進展。為了推動集體的跨部門行動，應(yīng)對氣候危機，由亞馬遜和Global Optimism共同發(fā)起了《氣候宣言》，呼吁簽約各機構(gòu)采取緊急行動，在 2040 年前實現(xiàn)凈零碳排放，提前十年達成《巴黎協(xié)定》目標(biāo)。亞馬遜以身作則，承諾到 2030 年100% 使用可再生能源為公司運營提供動力?，F(xiàn)在，亞馬遜將計劃再次提速，希望到 2025 年實現(xiàn)這一目標(biāo)。
全球權(quán)威調(diào)研機構(gòu)——451 Research 的研究結(jié)果，亞馬遜云科技運營的基礎(chǔ)設(shè)施能源效率，是受調(diào)查的美國企業(yè)數(shù)據(jù)中心中位數(shù)的 36 倍。進一步調(diào)查來自法國、德國、愛爾蘭、西班牙和瑞典各行各業(yè)的 300 多家公司。研究發(fā)現(xiàn)，亞馬遜云科技的數(shù)據(jù)中心能源效率比普通歐盟公司高出 5 倍。在亞馬遜云科技運行商業(yè)應(yīng)用的公司，可以減少近80%的能源消耗。如果將 1 兆瓦的典型工作負(fù)載轉(zhuǎn)移到 亞馬遜云科技，每年可以減少1000多公噸的碳排放。
現(xiàn)在，亞馬遜云科技希望利用自身在云計算領(lǐng)域的優(yōu)勢，倡導(dǎo)云上應(yīng)用的可持續(xù)發(fā)展，為應(yīng)對全球氣候變暖做出貢獻。
對于可持續(xù)發(fā)展，亞馬遜云科技效用計算和應(yīng)用程序高級副總裁Peter DeSantis說過，“最綠色的能源就是你沒有使用的資源。通往綠色云的道路就在面前，我們得一起朝著這個目標(biāo)努力。”
亞馬遜云科技還將推出一個碳足跡工具，幫助客戶在云端追蹤應(yīng)用的碳排放足跡，讓云上的低碳環(huán)保變得可衡量，以便更多的開發(fā)者和企業(yè)加入到低碳環(huán)保的行列中來。
京公網(wǎng)安備 11010502049343號