Google的大腦團(tuán)隊(duì)是開源Tensor2Tensor,這是一個(gè)新的深度學(xué)習(xí)庫,旨在幫助研究人員從領(lǐng)域內(nèi)最新論文中復(fù)制結(jié)果,并通過嘗試新的模型、數(shù)據(jù)集和其他參數(shù)的組合來拓寬可能的界限。人工智能研究中變種的數(shù)量眾多與新開發(fā)的快節(jié)奏相結(jié)合,使實(shí)驗(yàn)難以在截然不同的兩者間進(jìn)行匹配。這是研究人員的痛苦,拖慢了研究進(jìn)程。
Tensor2Tensor庫在進(jìn)行人工智能研究時(shí)可以更容易地保持最佳實(shí)踐。它配備了各種關(guān)鍵要素,包括超參數(shù)、數(shù)據(jù)集、模型架構(gòu)和學(xué)習(xí)速率衰減方案。
最好的地方在于,這些組件中的任何一個(gè)都可以以模塊化的方式進(jìn)出,完全不會破壞任何東西。從培訓(xùn)的角度來看,這意味著有了Tensor2Tensor,你可以隨時(shí)引入新的模型和數(shù)據(jù)集 ——比通??赡苁褂玫姆绞揭唵蔚枚?。
在追求幫助研究成果在實(shí)驗(yàn)室外可復(fù)制方面,谷歌并不孤單。Facebook最近開放了ParlAI的源代碼,它是一款可以將常用數(shù)據(jù)集打包進(jìn)行對話研究的工具。
與之類似,谷歌的Tensor2Tensor也附帶了最近的谷歌研究項(xiàng)目,例如“Attention Is All You Need(你需要的只是專注)”和“One Model to Learn Them All(一個(gè)模塊了解全部)”等?,F(xiàn)在可以在Github上使用這一切,所以您就可以開始訓(xùn)練自己的深度學(xué)習(xí)支持的工具了。