物聯(lián)網(wǎng)設(shè)備在瘋狂增長，預(yù)計(jì)到2020年全球物聯(lián)網(wǎng)設(shè)備數(shù)量將達(dá)到204億，同時，這些設(shè)備也在以超乎我們想象的速度產(chǎn)生數(shù)據(jù)。以智能攝像頭為例，隨著攝像頭的分辨率從1080P轉(zhuǎn)向4K，其一天所采集到的數(shù)據(jù)量將達(dá)到200GB。同樣，智能醫(yī)院、自動駕駛和智能工廠，它們一天所產(chǎn)生的數(shù)據(jù)將分別超過3TB、4TB和1PB。有人預(yù)測，到2020年，一個互聯(lián)網(wǎng)用戶平均每天將產(chǎn)生的數(shù)據(jù)量大概是1.5GB。由此可見，世界正在面臨著洶涌澎湃的數(shù)據(jù)洪流。

?如果將源源不斷產(chǎn)生的數(shù)據(jù)全部傳輸?shù)皆贫?，云端服?wù)器將面臨巨大的存儲壓力，因此有人提出了邊緣計(jì)算的解決方案。所謂邊緣計(jì)算，是一種在物理上靠近數(shù)據(jù)生成的位置處理數(shù)據(jù)的方法。如何在網(wǎng)絡(luò)邊緣實(shí)現(xiàn)智能化，是駕馭數(shù)據(jù)洪流的關(guān)鍵環(huán)節(jié)之一，也是物聯(lián)網(wǎng)未來發(fā)展的重要趨勢。在物聯(lián)網(wǎng)時代，隨著數(shù)字化的轉(zhuǎn)型，它需要更敏捷地連接、更有效地?cái)?shù)據(jù)處理，同時要有更好地?cái)?shù)據(jù)保護(hù)。由于邊緣計(jì)算能夠有效的降低對帶寬的要求，能夠提供及時的響應(yīng)，并且對數(shù)據(jù)的隱私提供保護(hù)，因此邊緣計(jì)算在今后物聯(lián)網(wǎng)的發(fā)展過程中會起到非常重要的作用。

邊緣計(jì)算不會替代云計(jì)算，二者會實(shí)現(xiàn)互補(bǔ)

既然邊緣計(jì)算如此重要，這是否意味著它可以替代云計(jì)算?邊緣計(jì)算不會代替云計(jì)算，二者之間會實(shí)現(xiàn)互補(bǔ)。因?yàn)檫吘売?jì)算所處理的數(shù)據(jù)是個局部的數(shù)據(jù)，并不能形成對于全局的認(rèn)知。這些認(rèn)知的形成還需要云計(jì)算平臺，在后端對各種不同的邊緣采集到的數(shù)據(jù)進(jìn)行融會貫通。

他列舉了智能交通領(lǐng)域和雙十一的例子，智能攝像頭通過各種智能方法能夠識別出攝像頭前經(jīng)過的各種人，以及對車輛的車型、車的顏色、車款以及車牌的識別，但是并不能了解車的軌跡。如果要形成車輛的完整軌跡，還是需要有云計(jì)算平臺的支持。雙11天貓商城上銷售峰值超過25億/秒，如此大量的計(jì)算也需要一個很大的云計(jì)算平臺在后面支撐。

物聯(lián)網(wǎng)發(fā)展可以分成三個階段：互聯(lián)、智能、自治。物聯(lián)網(wǎng)系統(tǒng)發(fā)展到自治階段同樣是端到端的一個系統(tǒng)，邊緣計(jì)算和云計(jì)算二者之間會協(xié)同工作。

人工智能和負(fù)載整合的結(jié)合會在邊緣計(jì)算系統(tǒng)里發(fā)生

分析數(shù)據(jù)洪流你會發(fā)現(xiàn)，以前需要處理的數(shù)據(jù)很多都是結(jié)構(gòu)化數(shù)據(jù)，通過Excel表格或者簡單關(guān)系型的數(shù)據(jù)庫就可以對其進(jìn)行維護(hù)和管理。但今后，物聯(lián)網(wǎng)會帶來越來越多的非結(jié)構(gòu)化數(shù)據(jù)，我們要從非結(jié)構(gòu)化的數(shù)據(jù)中發(fā)現(xiàn)內(nèi)在的關(guān)聯(lián)，就需要用到人工智能技術(shù)。

在2012年以前，人工智能做圖像識別的準(zhǔn)確度低于人類。虛線的部分代表人的識別水平，這樣一個曲線代表機(jī)器識別的錯誤率。到2012年，AlexNet等一大批新的人工神經(jīng)網(wǎng)絡(luò)的出現(xiàn)，使得人工智能的水平上了一個新檔次。在人工智能新技術(shù)的推動下，機(jī)器進(jìn)行圖像識別的水平開始超過人類。

雖然人工智能現(xiàn)在已經(jīng)取得了非常大的突破，但同樣還面臨著很多挑戰(zhàn)。最大的就是，人工智能在進(jìn)行處理時，還需要消耗大量的計(jì)算資源和存儲資源。以百度搜索為例，要完成一次搜索需要完成千億億次計(jì)算，在推理階段即使去處理一個非常典型的224×224分辨率的圖片，像AlexNet或者是GoogleNet這樣一些人工智能網(wǎng)絡(luò)，處理起來計(jì)算量同樣是要超過10億次。如此大量的計(jì)算，需要一個很強(qiáng)大的計(jì)算芯片支撐，所以說，人工智能的發(fā)展實(shí)際上對芯片提出了更高的要求。

在芯片研制的過程中，芯片的工藝是決定性因素，英特爾是摩爾定律的創(chuàng)始者，也是摩爾定律的踐行者。從22納米到14納米，從14納米到10納米的過程中，從半導(dǎo)體晶體管的密度變化來看，密度增長速度實(shí)際超過2倍，雖然英特爾的工藝迭代時間延長了，但是從更新速率來看，仍然是按照摩爾定律的速度向前發(fā)展。摩爾定律還在不斷推動半導(dǎo)體工藝的進(jìn)步，同時為人工智能等新的計(jì)算模式提供源源不斷的計(jì)算力。因此，人工智能的應(yīng)用對邊緣計(jì)算提出了更高的要求，對邊緣計(jì)算設(shè)備的演進(jìn)起到了推動作用。

在邊緣側(cè)趨向負(fù)載整合是物聯(lián)網(wǎng)演進(jìn)的一個必然趨勢。原來在不同設(shè)備上分立的負(fù)載會越來越多地通過虛擬化等技術(shù)，整合到一個單一的高性能的計(jì)算平臺上，來實(shí)現(xiàn)一個綜合的復(fù)雜的功能，各個功能子系統(tǒng)既能分享設(shè)備提供的計(jì)算，存儲，網(wǎng)絡(luò)等資源，同時還能具有一定的獨(dú)立性，避免彼此的相互影響，從而可以簡化系統(tǒng)架構(gòu)，降低系統(tǒng)總體。同時，負(fù)載整合實(shí)際上也為邊緣計(jì)算的實(shí)現(xiàn)以及為實(shí)施人工智能的應(yīng)用提供了條件。整合后的設(shè)備既是邊緣數(shù)據(jù)的匯聚節(jié)點(diǎn)，同時也是邊緣控制的中心，這為邊緣智能提供了處理所需的數(shù)據(jù)，同時也提供了控制的入口。因此英特爾認(rèn)為人工智能和負(fù)載整合的結(jié)合，會在今后的邊緣計(jì)算的系統(tǒng)里發(fā)生。

利用硬件優(yōu)勢，給用戶提供全面合適的解決方案

物聯(lián)網(wǎng)系統(tǒng)一定是一個邊緣協(xié)同的端到端系統(tǒng)，人工智能會在物聯(lián)網(wǎng)系統(tǒng)里廣泛應(yīng)用，不僅是在前端，也在后端。物聯(lián)網(wǎng)中不同的網(wǎng)源所需要的計(jì)算力需求不同，再加上人工智能部署，需要不同特性硬件平臺以及軟硬件協(xié)同優(yōu)化。英特爾提供了端到端的、業(yè)界領(lǐng)先的人工智能全棧解決方案，包括：涵蓋至強(qiáng)處理器、至強(qiáng)融核處理器、英特爾Nervana神經(jīng)網(wǎng)絡(luò)處理器和FPGA、網(wǎng)絡(luò)以及存儲技術(shù)等領(lǐng)先而完整的硬件平臺，以及多種軟件工具及函數(shù)庫，優(yōu)化開源框架。值得一提的是，對于邊緣計(jì)算而言如何平衡功耗和計(jì)算力所面臨的一大挑戰(zhàn)，憑借Movidius領(lǐng)先的單瓦計(jì)算能力，英特爾可以為業(yè)界提供低功耗、高性能的邊緣計(jì)算解決方案。對于前端的攝像機(jī)來說，對功耗要求嚴(yán)格，使用Movidius這樣的低功耗芯片更合適;對于設(shè)備偏向于邊緣域的連接相機(jī)的設(shè)備或者服務(wù)器服務(wù)中心運(yùn)行算法的，使用FPGA更適合。

目前針對人工智能應(yīng)用也涌現(xiàn)出AI芯片設(shè)計(jì)公司，AI芯片未來會是會怎樣的發(fā)展態(tài)勢?張宇認(rèn)為，“現(xiàn)實(shí)系統(tǒng)要解決的問題不同，以及在系統(tǒng)里所處的位置不同，對硬件要求、計(jì)算要求也不一樣，用戶要根據(jù)不同的要求來選擇比較合適的硬件架構(gòu)。當(dāng)下的人工智能很多的應(yīng)用實(shí)際是圍繞著圖象處理，即使像AlphaGo，Alphago下圍棋也是把棋盤轉(zhuǎn)變成二維的圖像作為輸入，然后用神經(jīng)網(wǎng)絡(luò)分析得到最終結(jié)果，包括權(quán)重網(wǎng)絡(luò)、估值網(wǎng)絡(luò)等，最后得到下一步棋放在哪個位置贏面最大的結(jié)論。但這是不是代表了人工智能的未來?很難說。原因在于以后用人腦或者用機(jī)器分析的問題的種類很多，有些可以歸結(jié)到圖像，有些不可以，如果歸結(jié)到圖像可以用卷積來做，如果不能歸結(jié)到圖像是不是有另外一個更有效的架構(gòu)?隨著對處理問題的復(fù)雜度越來越高、處理問題的種類越來越多、對問題的認(rèn)識越來越清晰，可能在今后會找到適于某種特定應(yīng)用、特定問題的應(yīng)用架構(gòu)。”

有了邊緣計(jì)算和云計(jì)算，開發(fā)者做設(shè)計(jì)的時候更關(guān)注如何界定邊緣計(jì)算和云計(jì)算?采用哪個更合適?英特爾認(rèn)為，我們有一個共性的技術(shù)需要理解和掌握，就是怎么樣使計(jì)算架構(gòu)變得更容易被軟件定義。不管是什么樣的業(yè)務(wù)類型都可以更靈活的在云端、在邊緣側(cè)，甚至在終端節(jié)點(diǎn)上運(yùn)行。如果沒有軟件定義的靈活性，我要把工作負(fù)載從云端遷移到前端是非常困難的事情，從芯片廠商角度來說我們要做一個這樣的考量。

網(wǎng)絡(luò)優(yōu)化是人工智能運(yùn)用于邊緣計(jì)算的關(guān)鍵

人工智能理論基礎(chǔ)尚不完備，這就造成目前很多人工智能很大一部分計(jì)算是冗余的，如果想將人工智能用到邊緣側(cè)，網(wǎng)絡(luò)優(yōu)化是一個關(guān)鍵的技術(shù)。英特爾的網(wǎng)絡(luò)優(yōu)化思路分三個方面：低比特、剪枝和參數(shù)量化。

所謂低比特，在傳統(tǒng)的深度學(xué)習(xí)領(lǐng)域，參數(shù)往往是用32比特的單精度浮點(diǎn)來進(jìn)行表述，但是我們看到，在很多應(yīng)用場景里，比如在安防領(lǐng)域、機(jī)器學(xué)習(xí)以及機(jī)器視覺領(lǐng)域，實(shí)際上精度要求沒有那么高，英特爾把整個參數(shù)的精度在不影響最終的識別率的情況下，從32比特的單精度浮點(diǎn)，轉(zhuǎn)變成16比特的半精，甚至于轉(zhuǎn)變成8比特的整精或者是2比特的整精。隨著比特?cái)?shù)量不斷地降低，存儲量和計(jì)算量都降低了，這樣就可以在原來相對計(jì)算能力有限的平臺上做更復(fù)雜的操作。

剪枝也類似，如果把一個人工智能的網(wǎng)絡(luò)比喻成一個樹枝，這個樹的每個不同的分杈，實(shí)際上對應(yīng)的是不同的檢測特征。對于不同的應(yīng)用場景關(guān)注的特征不一樣，很可能這些處理和檢測特征對最終檢測是沒有效果的。對于沒有效果的分支，完全可以剪掉，剪枝能夠極大地降低計(jì)算。

量化就是參數(shù)可以根據(jù)它的一些特征做聚類。一類參數(shù)可以用相對簡單的一些符號或者一些數(shù)字來表述，這樣能夠極大地降低人工智能對于存儲的要求。對這樣的優(yōu)化思路，英特爾在不斷地發(fā)展人工智能技術(shù)和硬件配合，形成很好的互動。

壯大生態(tài)系統(tǒng)，才能更好地推動發(fā)展

邊緣計(jì)算是一個很大的生態(tài)，任何一家公司都無法提供這個產(chǎn)業(yè)鏈里所涉及的上下游所有環(huán)節(jié)。在這個產(chǎn)業(yè)鏈，英特爾定位自己是一家芯片公司，提供計(jì)算、通信、存儲所需要的芯片解決方案。僅憑我們的一己之力不足以實(shí)現(xiàn)邊緣計(jì)算產(chǎn)業(yè)的宏大目標(biāo)，我們需要眾多類型的公司和機(jī)構(gòu)來參加，就像各位在ECC邊緣計(jì)算聯(lián)盟所看到的，有來自學(xué)術(shù)機(jī)構(gòu)的參與，有來自政府機(jī)構(gòu)的支持，這樣才能齊頭并進(jìn)，才能夠真正地讓人工智能的潛力全部發(fā)揮出來，讓人能夠憑借人工智能技術(shù)做到更多以前我們做不到的事情。

邊緣計(jì)算需要芯片，但是光有硬件還不夠，還需要軟件進(jìn)行配合。張宇提出，“我們還為用戶提供圍繞芯片相關(guān)的底層軟件和中間件元素。利用我們提供的零件能夠幫助合作伙伴更好地開發(fā)它們的相應(yīng)產(chǎn)品。”目前英特爾與華為和沈陽自動化研究所已經(jīng)達(dá)成了合作，華為剛發(fā)布了基于英特爾處理器的邊緣網(wǎng)關(guān)產(chǎn)品AR550i，利用這個產(chǎn)品，華為在整個產(chǎn)業(yè)鏈起到ODM、OEM的角色。在本次邊緣計(jì)算產(chǎn)業(yè)聯(lián)盟峰會上，英特爾聯(lián)合沈陽自動化研究所展示邊緣計(jì)算測試床——智能機(jī)器人，目的是驗(yàn)證基于深度學(xué)習(xí)的機(jī)器視覺方案在實(shí)際系統(tǒng)中的工作效果。

我們對于垂直行業(yè)的認(rèn)知肯定沒有行業(yè)合作伙伴那么深，在這方面我們和他們之間是很好的配合作用，我們提供解決方案，他們提供他們的應(yīng)用方案，大家一起構(gòu)架滿足特定垂直行業(yè)要求的整體方案來加速它的落地。英特爾除了可以在邊緣計(jì)算的節(jié)點(diǎn)持續(xù)做研發(fā)外，還具有云計(jì)算的能力以及在網(wǎng)絡(luò)通信基礎(chǔ)設(shè)施上的能力，我們可以更宏觀、更整體的服務(wù)于整個行業(yè)的需求。”