▲AT&T貝爾實(shí)驗(yàn)室 在這個(gè)傳奇的實(shí)驗(yàn)室里,不僅誕生了7位諾貝爾獎(jiǎng)獲得者,還是誕生了世界上第一個(gè)晶體管、蜂窩式電話系統(tǒng)、通訊衛(wèi)星、有聲電影、太陽(yáng)能電池、C/C++語(yǔ)言、UNIX系統(tǒng)…… 不僅如此,世界上第一塊人工智能芯片也同樣誕生于此。 1992年,馬克·扎克伯格只有8歲,離他后來(lái)創(chuàng)辦世界第一大社交網(wǎng)絡(luò)Facebook還有12年時(shí)間,離“卷積神經(jīng)網(wǎng)絡(luò)之父”Yann LeCun加入Facebook人工智能研究院還有21年。 就在這一年,世界上第一塊——同時(shí)也被當(dāng)時(shí)研究頻頻受挫的Yann LeCun稱為“可能是世界上最后一塊”——神經(jīng)網(wǎng)絡(luò)芯片ANNA,就誕生AT&T貝爾實(shí)驗(yàn)室里。
▲1992年的AT&T貝爾實(shí)驗(yàn)室一景
一、ANNA之興與卷積神經(jīng)網(wǎng)絡(luò)之衰
眾所周知,無(wú)論是“人工智能”、“深度學(xué)習(xí)”還是“神經(jīng)網(wǎng)絡(luò)”,這些近年來(lái)大火的概念其實(shí)都可以追溯到幾十年前。但由于這些算法對(duì)于數(shù)據(jù)與計(jì)算量都有著極大的要求,當(dāng)時(shí)的軟硬件條件都無(wú)法滿足,因而這類研究一直到近些年才大火起來(lái)。 不過(guò),即便在眾人并不看好深度學(xué)習(xí)的年月里,依然有一小群在“神經(jīng)網(wǎng)絡(luò)寒冬”里也堅(jiān)持信念的科學(xué)家們,Yann LeCun就是其中一個(gè)。 1988年10月,在學(xué)習(xí)完神經(jīng)科學(xué)、芯片設(shè)計(jì),并師從多倫多大學(xué)深度學(xué)習(xí)鼻祖Geoffrey Hinton后,年僅27歲的年輕博士后Yann LeCun來(lái)到美國(guó)新澤西州,正式成為傳奇的AT&T貝爾實(shí)驗(yàn)室的一員。 在當(dāng)時(shí)的貝爾實(shí)驗(yàn)室里,已經(jīng)有一組研究員在進(jìn)行英文字母識(shí)別的研究,并且積累下了一個(gè)擁有5000個(gè)訓(xùn)練樣本的USPS數(shù)據(jù)集——這在當(dāng)時(shí)已經(jīng)是一個(gè)非常龐大的數(shù)據(jù)集。 在這個(gè)數(shù)據(jù)集的幫助下,Yann LeCun在三個(gè)月內(nèi)便打造并訓(xùn)練了第一個(gè)版本的卷積神經(jīng)網(wǎng)絡(luò)LeNet one,在字母識(shí)別上取得了有史以來(lái)最高的準(zhǔn)確率,也正式標(biāo)志著卷積神經(jīng)網(wǎng)絡(luò)的誕生。 不過(guò),Yann LeCun的研究并沒(méi)有止步在軟件層面。1989年,Yann LeCun與實(shí)驗(yàn)室的其他實(shí)驗(yàn)員Bernhard Boser、Edi Sackinger等人共同撰寫了一篇新論文,介紹了他們所研制的一款名為“ANNA”的神經(jīng)網(wǎng)絡(luò)芯片。
▲“ANNA”神經(jīng)網(wǎng)絡(luò)芯片 ANNA中包括64個(gè)計(jì)算單元,專門針對(duì)卷積神經(jīng)網(wǎng)絡(luò)進(jìn)行了優(yōu)化,其峰值吞吐量為每秒40億次加法。 雖然在此之前,神經(jīng)網(wǎng)絡(luò)作為一個(gè)新興的研究方向已然小有名氣,有不少研究人員也嘗試打造過(guò)神經(jīng)網(wǎng)絡(luò)芯片,但它們都無(wú)法放在板級(jí)(Board-Level)測(cè)試環(huán)境中,也就無(wú)法在真實(shí)世界中應(yīng)用。 除了ANNA之外,貝爾實(shí)驗(yàn)室還曾在1991年打造過(guò)一款Net32K芯片。在Yann LeCun等人隨后發(fā)布了一系列論文中,他們不僅介紹了ANNA在板級(jí)測(cè)試中的優(yōu)秀表現(xiàn),還展示了ANNA在利用卷積神經(jīng)網(wǎng)絡(luò)在文本傾斜檢測(cè)、手寫數(shù)字識(shí)別等應(yīng)用上的優(yōu)異表現(xiàn)(比單獨(dú)的DSP快10到100倍),讓ANNA當(dāng)之無(wú)愧地成為了世界上第一塊“能用的”人工智能芯片。
▲搭載ANNA的測(cè)試板原理示意圖 不過(guò),天有不測(cè)風(fēng)云。1996年,AT&T公司進(jìn)行了一輪拆分,通信運(yùn)營(yíng)業(yè)務(wù)保留在新AT&T中,一部分貝爾實(shí)驗(yàn)室和AT&T的設(shè)備制造部門被剝離出來(lái)形成了朗訊科技,另一部分負(fù)責(zé)計(jì)算機(jī)業(yè)務(wù)的部門則組建了NCR公司。
▲Yann LeCun(后排中間)與新AT&T實(shí)驗(yàn)室成員,攝于2002年 Yann LeCun留在了新AT&T的實(shí)驗(yàn)室里,擔(dān)任AT&T實(shí)驗(yàn)室圖像處理研究部門負(fù)責(zé)人,然而極其不幸的是,卷積神經(jīng)網(wǎng)絡(luò)的專利卻被律師團(tuán)隊(duì)最終決定分給了NCR公司(這一專利在2007年過(guò)期)。 用Yann LeCun的話來(lái)說(shuō),“當(dāng)時(shí)NCR手握卷積神經(jīng)網(wǎng)絡(luò)的專利,卻完全沒(méi)有人知道卷積神經(jīng)網(wǎng)絡(luò)到底是什么”,而自己卻因?yàn)樯硖幜硪患夜径鵁o(wú)法繼續(xù)進(jìn)行相關(guān)研究。 然而,在1996年后的時(shí)間里,科學(xué)界對(duì)神經(jīng)網(wǎng)絡(luò)的興趣逐漸走向衰微,越來(lái)越少人進(jìn)行相關(guān)研究,一直到2010年以后才重新興起。
二、AI芯片浪潮襲來(lái)
讓我們把時(shí)間調(diào)回現(xiàn)在。 在過(guò)去的這十年間,AI領(lǐng)域迎來(lái)了一場(chǎng)新浪潮。 人工智能這一項(xiàng)新興技術(shù),在經(jīng)歷了技術(shù)積累、升級(jí)、發(fā)酵之后,正在以AI芯片作為載體而全面崛起。據(jù)智東西報(bào)道了解得知,目前全球至少有50家初創(chuàng)公司正在研發(fā)語(yǔ)音交互和自動(dòng)駕駛芯片,并且至少有5家企業(yè)已經(jīng)獲得超過(guò)1億美元的融資,這一數(shù)目還在不斷增加當(dāng)中。(
深度 | AI芯片終極之戰(zhàn)
) 除了創(chuàng)業(yè)市場(chǎng)一片興盛外,各大科技巨頭也毫不示弱。除了谷歌、蘋果、華為、百度、英特爾、賽靈思等巨頭陸續(xù)重拳入局AI芯片外,亞馬遜也被曝出擁有449人的芯片團(tuán)隊(duì),設(shè)計(jì)定制AI芯片的消息基本坐實(shí)。 作為目前全球市值最高的第五大科技企業(yè),日活躍用戶達(dá)14.5億、月活躍用戶達(dá)22億的全球第一大社交網(wǎng)站Facebook自然也不會(huì)缺席這場(chǎng)戰(zhàn)役。 2013年,時(shí)任紐約大學(xué)教授的Yann LeCun宣布加入Facebook,幫助建立Facebook人工智能研究院(FAIR)。
▲部分Facebook人工智能研究院成員 在成立五年以來(lái),F(xiàn)acebook人工智能研究院已經(jīng)在美國(guó)加州門洛帕克(Facebook總部)、美國(guó)紐約、法國(guó)巴黎、以及加拿大蒙特利爾等地建有六所人工智能研究所,擁有超過(guò)115位科學(xué)家,各自專攻機(jī)器視覺(jué)、機(jī)器學(xué)習(xí)、自然語(yǔ)言處理等領(lǐng)域,包括何凱明、田淵棟等國(guó)內(nèi)熟悉的人工智能學(xué)者。 在Yann LeCun的帶領(lǐng)下,F(xiàn)acebook人工智能研究院中不僅誕生了著名的Caffe、Caffe2深度學(xué)習(xí)開源框架,也讓Facebook在這人工智能浪潮當(dāng)中能夠與谷歌等巨頭一爭(zhēng)高下。 早在2017年底,F(xiàn)acebook就已經(jīng)作為英特爾的首位合作伙伴,內(nèi)部測(cè)試了英特爾AI云端芯片Spring Crest,并與英特爾合作進(jìn)行了AI芯片的研發(fā)與優(yōu)化,一時(shí)間有關(guān)“Facebook要打造自己的云服務(wù)器AI芯片”的傳言塵囂甚起。 不過(guò)我們綜合各方線索來(lái)看,F(xiàn)acebook最先打造的應(yīng)該并不會(huì)是一款能夠支持多種AI應(yīng)用的通用云端AI芯片,而是一款主攻視頻的AI芯片,不過(guò)目測(cè)這款芯片不會(huì)在近期與眾人見(jiàn)面。
三、挖角谷歌,大規(guī)模擴(kuò)建AI芯片團(tuán)隊(duì)
從2018年年中開始,F(xiàn)acebook就在AI芯片方面頻頻發(fā)聲。 5月,在巴黎Viva科技峰會(huì)上,Yann LeCun首次直接披露了Facebook在AI芯片方面的具體方向:視頻實(shí)時(shí)監(jiān)測(cè)。 由于這兩年來(lái)視頻直播的盛行,越來(lái)越多用戶選擇使用這種方式分享自己的生活,這位Facebook的視頻實(shí)時(shí)分析、實(shí)時(shí)審核過(guò)濾帶來(lái)了極大的壓力。 2017年的復(fù)活節(jié)時(shí),一名男子在Facebook上直播開槍殺人,該視頻在Facebook上停留了超過(guò)2個(gè)小時(shí)后才被刪除,引起了社會(huì)的極大恐慌。 傳統(tǒng)軟硬件不僅分析過(guò)濾不及時(shí),對(duì)于越來(lái)越大量的視頻壓縮、審核、監(jiān)管等應(yīng)用,傳統(tǒng)軟硬件在計(jì)算資源和功耗控制上都達(dá)不到要求。 Yann LeCun說(shuō),“Facebook之所以要自己做芯片,是因?yàn)閭鹘y(tǒng)資源無(wú)法滿足新時(shí)代需求,傳統(tǒng)方法已經(jīng)失效,我們需要一款A(yù)I芯片,實(shí)時(shí)分析和過(guò)濾視頻內(nèi)容。” 順便一提的是,今年1月,Yann LeCun宣布將不再擔(dān)任FAIR負(fù)責(zé)人,將由前IBM大數(shù)據(jù)集團(tuán)CTO Jérôme Pesenti接任。LeCun表示他將改任Facebook的首席AI科學(xué)家,專注于AI學(xué)術(shù)研究以及對(duì)FAIR進(jìn)行方向性指導(dǎo)。
▲Shahriar Rabii的LinkedIn界面 目前。Facebook的AI芯片團(tuán)隊(duì)還處在早期的起步組建階段。就在上周,F(xiàn)acebook才剛剛從谷歌挖來(lái)一員大將——谷歌前芯片產(chǎn)品開發(fā)部門負(fù)責(zé)人Shahriar Rabii跳槽,擔(dān)任Facebook副總監(jiān)及芯片部分負(fù)責(zé)人一職。 Shahriar Rabii曾在谷歌工作7年,離職前職位為高級(jí)工程師主管、芯片產(chǎn)品開發(fā)部門負(fù)責(zé)人。他負(fù)責(zé)帶隊(duì)進(jìn)行了大量針對(duì)消費(fèi)者用戶的芯片研發(fā)工作,其中最值得一提的是為“谷歌親兒子”Pixel智能手機(jī)打造的Visual Core定制化AI視覺(jué)芯片,這枚芯片能夠?yàn)橹悄苁謾C(jī)攝像頭帶來(lái)機(jī)器學(xué)習(xí)AI功能。 更早之前的4月19日,F(xiàn)acebook的第一條AI芯片招聘信息開始在線上流傳。在招聘信息當(dāng)中,F(xiàn)acebook宣布即將為招聘一名管理者(Manger)來(lái)組建“端對(duì)端SoC/ASIC固件和驅(qū)動(dòng)開發(fā)組織”,該管理者需要“針對(duì)多個(gè)垂直領(lǐng)域開發(fā)定制解決方案,包括人工智能和機(jī)器學(xué)習(xí)”。
在同日的另一則招聘啟事中,F(xiàn)acebook則表示正在招聘“ASIC&FPGA設(shè)計(jì)工程師”,該工程是需要擁“架構(gòu)和設(shè)計(jì)半定制和全定制ASIC的專業(yè)知識(shí)、能夠與軟件和系統(tǒng)工程師合作,了解當(dāng)前硬件的局限性,并利用他們的專業(yè)知識(shí)打造針對(duì)多種應(yīng)用(包括人工智能/機(jī)器學(xué)習(xí),壓縮,視頻解碼等)的定制解決方案。 時(shí)至今日,F(xiàn)acebook依然有不少AI芯片相關(guān)的崗位招聘掛在LinkedIn頁(yè)面上,并且在持續(xù)更新中:比如五天前跟新的一條“內(nèi)存&芯片產(chǎn)品總監(jiān)”招聘信息、以及三天前更新的兩條“ASIC&FPGA工程師”、“ASIC/FPGA技術(shù)項(xiàng)目主管”招聘信息。 從高調(diào)挖人到大規(guī)模招聘,可見(jiàn)Facebook在AI芯片的決心與投入。不過(guò)如果按照芯片18個(gè)月的設(shè)計(jì)制造周期來(lái)說(shuō),如果Facebook現(xiàn)在才開始招募團(tuán)隊(duì),那么離芯片真正量產(chǎn)就還有至少一年時(shí)間。
結(jié)語(yǔ):AI芯片的巨大想象空間
隨著AI算法的進(jìn)一步發(fā)展,人工智能在不同應(yīng)用領(lǐng)域的分化也越來(lái)越明顯。對(duì)于任何一個(gè)業(yè)務(wù)體量巨大的科技公司而言,專為自己業(yè)務(wù)線所打造的定制化AI芯片能夠帶來(lái)的成本縮減與效率提升有著巨大的想象力,任何一個(gè)科技巨頭都不會(huì)輕易放過(guò)這一機(jī)會(huì)。 雖然硬件研發(fā)一直都不是Facebook的強(qiáng)項(xiàng),但是如果瞄準(zhǔn)的只是視頻壓縮與審查這一領(lǐng)域,那么AI芯片打造的難度將會(huì)大大小于通用云端AI芯片(君不見(jiàn)英特爾的AI芯片一再推遲面世),可能會(huì)比預(yù)期更早與世人見(jiàn)面。