Brockman讓Stripe繼續(xù)從事AI工作，從頭開(kāi)始建立知識(shí)庫(kù)。他與在大學(xué)里成為朋友的研究人員重新聯(lián)系，閱讀有關(guān)機(jī)器學(xué)習(xí)基礎(chǔ)知識(shí)的書(shū)籍，并與Y Combinator總裁Sam Altman聯(lián)系。幸運(yùn)的是，奧特曼一直在考慮啟動(dòng)AI實(shí)驗(yàn)室。

該實(shí)驗(yàn)室成長(zhǎng)為OpenAI，其中包括Altman，Elon Musk，LinkedIn執(zhí)行主席Reid Hoffman，Peter Thiel以及其他業(yè)界巨頭作為其支持者。其聲明的目標(biāo)是“建立安全的人類AI”，并通過(guò)機(jī)器人，游戲和數(shù)據(jù)集生成方面的突破性研究推進(jìn)人工智能領(lǐng)域。

展望本周(將流于強(qiáng)人工智能國(guó)會(huì)山聽(tīng)證會(huì)在這里上午10:30東部時(shí)間6月26日)，布羅克曼與VentureBeat的談到了深度學(xué)習(xí)，需要一些關(guān)于AI的討論和辯論的最新進(jìn)展，并研究人員和政策制定者可能會(huì)解決“ AI偏見(jiàn)問(wèn)題”。

這是我們采訪的編輯記錄。

VentureBeat：“紐約時(shí)報(bào)”最近有一篇有趣的文章引用了一些研究人員的觀點(diǎn)，他們認(rèn)為如果我們想要實(shí)現(xiàn)人類智能，我們將不得不超越深度學(xué)習(xí)。您認(rèn)為我們距離它有多遠(yuǎn)，您認(rèn)為現(xiàn)有方法可以做到嗎?

格雷格布羅克曼：我認(rèn)為這個(gè)問(wèn)題的框架并不完全正確。

所有AI系統(tǒng)都有三個(gè)功能：數(shù)據(jù)，計(jì)算和算法。我們生活在這個(gè)非常罕見(jiàn)，珍貴的標(biāo)記數(shù)據(jù)集的世界中，現(xiàn)在我們開(kāi)始看到[OpenAI] 為能夠使用未標(biāo)記數(shù)據(jù)的語(yǔ)言發(fā)布的模型。他們閱讀了數(shù)以千計(jì)的書(shū)籍，并且不要求你去仔細(xì)地應(yīng)用這些標(biāo)簽，最后，給你一個(gè)可以閱讀互聯(lián)網(wǎng)和這些龐大的語(yǔ)料庫(kù)的系統(tǒng)。

我們?cè)跀?shù)據(jù)方面做的第二件事就像[Dota 2-playing AI] OpenAI Five。它每天都會(huì)對(duì)自己進(jìn)行180年的游戲，這是使用計(jì)算機(jī)生成數(shù)據(jù)的一個(gè)例子。

在計(jì)算方面，在過(guò)去幾個(gè)月中，我們發(fā)布了一篇文章 ，了解過(guò)去六年中深度學(xué)習(xí)模型的計(jì)算能力。你可以看到，最大的人工智能訓(xùn)練每3.5個(gè)月增加一倍，增加300,000倍。從這個(gè)角度來(lái)看，有點(diǎn)像六年后，智能手機(jī)電池從持續(xù)的一天變?yōu)槌掷m(xù)800年。

這帶給我們算法。到目前為止我們所做的一切都涉及簡(jiǎn)單的想法，但這些是正確的簡(jiǎn)單想法嗎?他們會(huì)走得更遠(yuǎn)嗎?事實(shí)是我們還沒(méi)有打到它們，所以我們不知道 - 我們不知道它們是否會(huì)崩潰......我們有點(diǎn)迷霧，我們將會(huì)在那場(chǎng)大霧直到景觀停止變化如此迅速。

VentureBeat：人工智能的概念 - 所謂的超智能AI - 對(duì)一些人來(lái)說(shuō)很關(guān)心。你將在國(guó)會(huì)面前作證的部分內(nèi)容是圍繞它的潛在危險(xiǎn)及其如何使用，以及在我們達(dá)到這一點(diǎn)之前制定政策的重要性。那么，在我們擁有不可預(yù)測(cè)的智能系統(tǒng)之前，確切地建立什么是必要的?我們需要什么框架?

布羅克曼：我認(rèn)為這是關(guān)鍵，對(duì)吧?我們所談?wù)摰倪@項(xiàng)技術(shù)有可能成為我們創(chuàng)造的最積極的事情，而且這是[OpenAI]非常認(rèn)真考慮的事情。

我認(rèn)為這一切都?xì)w結(jié)為一個(gè)核心理念：人工智能有可能導(dǎo)致極快的變化。當(dāng)你迅速改變時(shí)，政策機(jī)制和社會(huì)規(guī)范 - 人們?nèi)绾温?lián)系并融入系統(tǒng) - 很難跟上。

政府在政策層面做的最重要的事情就是制定衡量政策的方法。未來(lái)很難預(yù)測(cè)，部分原因是對(duì)現(xiàn)在的了解很少。我們實(shí)際上已經(jīng)在OpenAI上開(kāi)展了許多不同的計(jì)劃 - 例如人工智能指數(shù) - 這些計(jì)劃是決策的關(guān)鍵，但還有很多問(wèn)題需要回答。

VentureBeat：具體的例子怎么樣?我想了解一下AI應(yīng)該受到限制的方式。我正在談?wù)撛趹?zhàn)爭(zhēng)和其他有爭(zhēng)議的領(lǐng)域中使用的人工智能。你認(rèn)為我們應(yīng)該關(guān)注走這條路嗎?

布羅克曼：對(duì)于任何具有變革性的技術(shù)，進(jìn)行這些對(duì)話非常重要。沒(méi)有一個(gè)簡(jiǎn)單的答案，我不相信我一個(gè)人或單獨(dú)的OpenAI是正確的回答方。

我們花了很多精力在Open AI的章程上。這是兩年的政策研究，旨在弄清楚我們認(rèn)為安全和負(fù)責(zé)任的人工智能開(kāi)發(fā)及其意義。這些都是我們所關(guān)注的問(wèn)題，但對(duì)我來(lái)說(shuō)最重要的是這個(gè)對(duì)話中有很多利益相關(guān)者。這對(duì)于人們正在進(jìn)行和談?wù)摰墓_(kāi)辯論來(lái)說(shuō)非常重要。

所以你知道，我認(rèn)為，如果你看一下具體的應(yīng)用，我們的監(jiān)管機(jī)構(gòu)就能很好地幫助確保這些技術(shù)的實(shí)用性和積極性。在某些情況下，我們?cè)O(shè)置得很好，而在其他情況下，并沒(méi)有那么多。

VentureBeat：最近新聞中出現(xiàn)了很多關(guān)于人工智能道德的問(wèn)題。顯而易見(jiàn)的例子是[有爭(zhēng)議的無(wú)人機(jī)計(jì)劃] Project Maven和亞馬遜的[面部識(shí)別平臺(tái)] Rekognition。您是否認(rèn)為公司有責(zé)任制定有關(guān)人工智能使用的政策，或者他們必須與政府共同做些什么?

Brockman：其中一些應(yīng)該是個(gè)案......有了一種技術(shù)[像一般的人工智能]，我很清楚它會(huì)影響每個(gè)人，對(duì)吧?如果它影響到每個(gè)人，你需要進(jìn)行公開(kāi)對(duì)話。其中一個(gè)核心問(wèn)題是AI將創(chuàng)造如此多的好處 - 它不應(yīng)該被鎖定在任何一個(gè)實(shí)體中。它應(yīng)該是我們分享并廣泛分發(fā)的東西。

這就是為什么我認(rèn)為舉行國(guó)會(huì)聽(tīng)證會(huì)以及讓我們進(jìn)行公開(kāi)對(duì)話對(duì)我們?nèi)绱酥匾脑蛑唬驗(yàn)楝F(xiàn)在很難將信號(hào)與噪音分開(kāi) - 即使對(duì)于場(chǎng)內(nèi)人士來(lái)說(shuō)也是如此。

我們需要深入了解正在發(fā)生的事情，正在推動(dòng)的進(jìn)展以及未來(lái)幾年將會(huì)發(fā)生什么。這是一個(gè)非常棘手的問(wèn)題 - 我們面臨著一些真正的挑戰(zhàn) - 但我認(rèn)為通過(guò)正確的數(shù)據(jù)進(jìn)行真實(shí)的對(duì)話，我們將有機(jī)會(huì)做到正確。

VentureBeat：最后一個(gè)問(wèn)題。AI中的偏見(jiàn)是一個(gè)經(jīng)常被討論的問(wèn)題，而人工的一般情報(bào)可能會(huì)使“ 黑匣子 ”問(wèn)題更加嚴(yán)重。在我們最終完成難以理解的系統(tǒng)之前，我們是否應(yīng)該考慮解決這個(gè)問(wèn)題?

布羅克曼：我認(rèn)為這里存在一系列問(wèn)題，從我們今天的系統(tǒng)看到的問(wèn)題到你可以開(kāi)始看到未來(lái)系統(tǒng)的問(wèn)題......即使數(shù)據(jù)很好，如果這些系統(tǒng)設(shè)置在錯(cuò)誤的方式 - 例如，如果他們被給予了錯(cuò)誤的目標(biāo) - 他們最終會(huì)以令人驚訝的方式行事。那么如何確保AI系統(tǒng)能夠?qū)崿F(xiàn)您的意圖并且無(wú)偏差地運(yùn)行?這些都是非常重要的開(kāi)放性問(wèn)題。

建立這個(gè)人工智能安全領(lǐng)域非常重要。有一件事是很好的，公司有極大的動(dòng)力來(lái)做到這一點(diǎn)......但是代表我們采取行動(dòng)的更強(qiáng)大的系統(tǒng)沒(méi)有得到很好的探索，因?yàn)槲覀冞€沒(méi)有建立這些系統(tǒng)。我們已經(jīng)接近了 - 我們開(kāi)始看到像OpenAI Five這樣的東西 - 但是我們還沒(méi)有這樣做，而且我認(rèn)為對(duì)我們來(lái)說(shuō)，擺脫問(wèn)題而不是追趕是非常重要的。