當(dāng)谷歌旗下位于倫敦的公司DeepMind將可以獲取皇家慈濟(jì)NHS信托基金運(yùn)營(yíng)的三家醫(yī)院（Barnet、Chase Farm和the Royal Free）的160萬(wàn)病人的NHS（英國(guó)國(guó)家醫(yī)療服務(wù)體系）記錄的消息被公布出來(lái)時(shí)，警鐘敲響了。

這不只是因?yàn)橛?guó)人激烈地守衛(wèi)他們私密的醫(yī)療記錄；也不只是因?yàn)榘延|角伸進(jìn)我們生活的各個(gè)角落的巨型章魚公司谷歌想要“組織全世界的信息”；更不只是因?yàn)椴∪瞬惶赡芡夤雀璜@得這些信息。

▲谷歌DeepMind的AlphaGo與世界冠軍李世石的圍棋比賽的直播，AlphaGo最終獲勝

對(duì)許多人而言，問(wèn)題在于這些擔(dān)憂和人工智能（AI）的概念交織在了一起。DeepMind并不是普通公司，它是一家專注于人工智能的公司，開發(fā)著能夠表現(xiàn)出智能推理能力的技術(shù)。

去年該公司的工程師們發(fā)布了一篇論文說(shuō)該公司開發(fā)出了一個(gè)能夠復(fù)制“專業(yè)人類視頻游戲測(cè)試者”的程序。今年三月份，谷歌DeepMind開發(fā)出了一個(gè)掌握了有3000年歷史的中國(guó)棋盤游戲圍棋，從而創(chuàng)造了歷史；在此之前，因?yàn)閲蹇赡艿淖咦硬綌?shù)的龐大數(shù)量，人們認(rèn)為目前還不具備能掌握圍棋的技術(shù)。在被視為計(jì)算的里程碑的比賽中，該公司的AlphaGo以4-1的成績(jī)擊敗了世界圍棋冠軍。

生病前就治好

現(xiàn)在，這樣一家公司擁有了包含所有這些人的詳細(xì)、私密、盡管匿名的醫(yī)療記錄的數(shù)據(jù)庫(kù)，其中包括HIV感染狀況、過(guò)去的吸毒過(guò)量和墮胎信息。DeepMind說(shuō)其需要這些數(shù)據(jù)為試圖防止急性腎損傷的醫(yī)院產(chǎn)生醫(yī)療報(bào)警信號(hào)。

一些人擔(dān)憂的是，DeepMind的數(shù)據(jù)庫(kù)可能會(huì)被允許用于原本規(guī)定之外的目的。公眾對(duì)NHS病人的隱私?jīng)]有得到保障的事實(shí)已經(jīng)不陌生了——2014年，因?yàn)閷?duì)醫(yī)療機(jī)密可能處于風(fēng)險(xiǎn)之中的擔(dān)憂，政府被迫暫停然后縮減其打造一個(gè)單個(gè)英文醫(yī)療數(shù)據(jù)庫(kù)的提案。

DeepMind沒(méi)有隱藏它與NHS的工作，該公司在二月份宣布其正與該醫(yī)療服務(wù)合作開發(fā)一款被稱為Streams的應(yīng)用，以幫助醫(yī)生和護(hù)士監(jiān)測(cè)腎病患者。它沒(méi)有公布的是其對(duì)包括病人歷史病歷在內(nèi)的數(shù)據(jù)的取用程度。DeepMind得到的不只是幾千個(gè)患有腎損傷的病人的數(shù)據(jù)，而是所有這些醫(yī)院的病人病歷。那是數(shù)以百萬(wàn)計(jì)的機(jī)密文件。

該公司表示其需要整個(gè)病人數(shù)據(jù)庫(kù)才能使Streams有效。這樣的數(shù)據(jù)庫(kù)的支持者聲稱有了這樣的數(shù)據(jù)，就能更快地開發(fā)出用于診斷疾病的強(qiáng)大軟件包。

New Scientist雜志獲得了DeepMind和NHS之間的數(shù)據(jù)共享協(xié)議，該協(xié)議披露了哪些信息會(huì)被提供給DeepMind。這家谷歌公司的技能是在大量數(shù)據(jù)中識(shí)別復(fù)雜模式——而NHS是這樣的“深度學(xué)習(xí)”的一座金礦。

這個(gè)數(shù)據(jù)寶庫(kù)中充滿了醫(yī)院每日的活動(dòng)日志，例如病人的位置和狀態(tài)記錄——以及誰(shuí)于何時(shí)探望了他們。DeepMind也將獲得病人的病理和放射檢查記錄。

除了實(shí)時(shí)數(shù)據(jù)之外，DeepMind還有權(quán)使用重癥監(jiān)護(hù)和事故與急診部門的歷史記錄。理論上，鼓搗這些信息讓DeepMind可以基于這些超過(guò)任何個(gè)人消化和分析能力的數(shù)據(jù)開發(fā)出預(yù)測(cè)應(yīng)用。

通過(guò)比對(duì)患者數(shù)據(jù)，DeepMind可能能夠預(yù)測(cè)某人處在某種疾病的還沒(méi)有明顯癥狀的早期階段。這是醫(yī)療領(lǐng)域的圣杯：不是當(dāng)人們生病時(shí)治療病人，而是在他們生病前就治好他們。

烏托邦？也許吧。這些技術(shù)的愿景背后還有我們所生活的這個(gè)時(shí)代的困境的癥結(jié)。谷歌、Facebook等公司的生存靠的是這一事實(shí)：我們用自己的隱私權(quán)換取使用我們的數(shù)據(jù)開發(fā)的新技術(shù)。

“智能爆炸”

和蘋果一樣，谷歌正在打造在醫(yī)療應(yīng)用領(lǐng)域的聲譽(yù)。而事實(shí)上，學(xué)術(shù)界將機(jī)器學(xué)習(xí)用在醫(yī)療上已不是什么新聞了。但是，這些數(shù)據(jù)的使用權(quán)被交給了世界上最大最強(qiáng)的公司之一。這帶來(lái)了一個(gè)問(wèn)題，即該公司是不是很快就可能在NHS健康分析上變成最大的公司，造成事實(shí)上的壟斷。

人工智能代表著一些新事物，一個(gè)程序能夠改進(jìn)自身并很快超越人類智力的希望。這就是所謂的“智能爆炸”——一個(gè)人類迎來(lái)自身毀滅的節(jié)點(diǎn)。我們離到這一步還有一段距離。即使有這樣的目標(biāo)代價(jià)，也還沒(méi)人開發(fā)出尊重社會(huì)和道德規(guī)范的機(jī)器。對(duì)人類而言，做到這一點(diǎn)是很困難的。

有些人可能會(huì)說(shuō)這樣的推斷是荒謬的。畢竟微軟的Twitter聊天機(jī)器人Tay在變成一個(gè)種族主義者和種族滅絕吶喊者之前堅(jiān)持了幾個(gè)小時(shí)，然后她被關(guān)閉了。但正如最初投資過(guò)DeepMind的發(fā)明者伊隆·馬斯克所說(shuō)，正是對(duì)“終結(jié)者”技術(shù)的擔(dān)憂驅(qū)使他警告其危險(xiǎn)。

為了也許聽起來(lái)商業(yè)的原因，DeepMind在人們的注視下進(jìn)行運(yùn)作。但這通常帶來(lái)的問(wèn)題比給出的答案還多。谷歌在2014年以4億英鎊收購(gòu)DeepMind時(shí)設(shè)立的人工智能倫理委員會(huì)仍然是技術(shù)上最大的謎團(tuán)之一，這兩家公司都拒絕透露誰(shuí)管理著這一委員會(huì)。

人工智能需要數(shù)據(jù)進(jìn)行學(xué)習(xí)，因此谷歌DeepMind要吸取所有這些病歷記錄。所以為什么要保密？如果病人已被告知了事情的來(lái)龍去脈和原因，他們可以做出明智的選擇。如果他們認(rèn)為谷歌在NHS新的關(guān)鍵技術(shù)上壟斷地位的潛在風(fēng)險(xiǎn)趕不上其所帶來(lái)的好處，那就讓我們辯論吧。但如果該公司不做任何解釋，只是秘密進(jìn)行，公眾就肯定不會(huì)贊同這樣的計(jì)劃。