在剛剛閉幕的G20杭州峰會(huì)上，世界各國(guó)的領(lǐng)導(dǎo)人在一個(gè)問(wèn)題上達(dá)成了一致：日益嚴(yán)重的收入不平等現(xiàn)象存在著巨大的隱患。各國(guó)領(lǐng)導(dǎo)人都強(qiáng)調(diào)，應(yīng)該更加均等地分享全球經(jīng)濟(jì)增長(zhǎng)帶來(lái)的利益。

在科技突飛猛進(jìn)的當(dāng)下，技術(shù)進(jìn)步自然而然地被作為解決途徑之一，算法、大數(shù)據(jù)、機(jī)器學(xué)習(xí)等技術(shù)正不斷滲透到經(jīng)濟(jì)、政治、司法等各個(gè)層面，但效果如何?《數(shù)學(xué)殺傷性武器》(Weapons of Math Destruction)一書的作者凱西·奧尼爾(Cathy O'Neil)指出，這些技術(shù)恰恰在加劇收入不平等現(xiàn)象。

被算法“算計(jì)”

美國(guó)人開(kāi)始越來(lái)越多地遭遇這樣的經(jīng)歷：求職過(guò)程中，因?yàn)橐豁?xiàng)性格測(cè)試被刷下陣來(lái)，只因算法認(rèn)為他不是合適人選;去銀行貸款，利率比別人都要高，只因所住地區(qū)多有信用記錄不良者;被從重判罰，只因親朋好友中有人是累犯。而且，在被算法“算計(jì)”之后，他們也都被蒙在鼓里，得不到一個(gè)合理的解釋。

針對(duì)這種現(xiàn)象，奧尼爾觀察了各個(gè)領(lǐng)域?qū)λ惴ê痛髷?shù)據(jù)的使用，以及它們是如何使窮人的生活雪上加霜、如何放大社會(huì)不平等現(xiàn)象的。

她在書中剖析了不少大數(shù)據(jù)模型，它們都存在一個(gè)共同點(diǎn)：用一種指標(biāo)來(lái)取代真正需要衡量的指標(biāo)。比如，雇主依據(jù)信用記錄來(lái)判斷應(yīng)聘者的責(zé)任心，放貸機(jī)構(gòu)根據(jù)語(yǔ)法優(yōu)劣來(lái)判斷申請(qǐng)人的信用度。但這些指標(biāo)之間真能劃上等號(hào)嗎?信用記錄也許更多地代表了財(cái)富水平，語(yǔ)法錯(cuò)誤多的也有可能是信用優(yōu)良的移民，并非所有的代理指標(biāo)都經(jīng)得起推敲。

在美國(guó)，近半數(shù)的雇主都要求應(yīng)聘者提交信用報(bào)告，把信用評(píng)分等同于責(zé)任心或可靠性。這樣做會(huì)形成一種危險(xiǎn)的貧困正反饋循環(huán)。如果有人因?yàn)樾庞糜涗洸涣级也坏焦ぷ鳌](méi)有收入，其信用記錄只會(huì)越來(lái)越差，從而越來(lái)越難以找到工作。但在雇主眼中，滿紙數(shù)據(jù)的信用記錄卻比人為判斷都要可靠。他們從不考慮數(shù)字背后隱藏著怎樣的假設(shè)。

孤立起來(lái)看，這些算法產(chǎn)生的效應(yīng)就已經(jīng)足夠惡劣，更何況它們之間還會(huì)相互強(qiáng)化。教育、就業(yè)前景、債務(wù)和犯罪記錄全都相互關(guān)聯(lián)。窮人因?yàn)槿氩环蟪?，更有可能擁有不良信用記錄，并生活在治安不良地區(qū)，與其他窮人比鄰而居。系統(tǒng)一旦消化這些數(shù)據(jù)，就會(huì)推薦對(duì)他們更加不利的次級(jí)貸款、更差的學(xué)校等。警方會(huì)派遣更多警力在當(dāng)?shù)鼐S持治安，從而引發(fā)更多不必要的逮捕，誰(shuí)一旦罪名成立，還會(huì)被從重處罰。

隨后，這些結(jié)果又會(huì)形成新一組數(shù)據(jù)，使他們?cè)谌蘸笊暾?qǐng)房貸、貸款和保險(xiǎn)時(shí)被收取更高的費(fèi)率。

決策依據(jù)而非決策結(jié)果

奧尼爾擔(dān)心，這種技術(shù)模型和真人分道揚(yáng)鑣的現(xiàn)象會(huì)帶來(lái)道德上的后果。好在，越來(lái)越多的律師、社會(huì)學(xué)家和統(tǒng)計(jì)學(xué)家開(kāi)始關(guān)注數(shù)據(jù)濫用造成的危害，并思索解決之道。

針對(duì)算法假設(shè)不夠透明、令人費(fèi)解或經(jīng)不起推敲的現(xiàn)象，解決辦法是在算法層面加以調(diào)整，體現(xiàn)哪些信息對(duì)最終決策起到了決定性的作用。并通過(guò)立法，增加對(duì)個(gè)人數(shù)據(jù)的保護(hù)，對(duì)算法透明度實(shí)行規(guī)范化的管理。

另外，政府也可以優(yōu)先用大數(shù)據(jù)來(lái)改善民生，而不是嚴(yán)打犯罪，由此贏得公眾的信任?？偠灾?，算法可以作為決策依據(jù)，但不能替代人類做出決策。

在使用得當(dāng)?shù)那闆r下，它們或許能協(xié)助政府削減收入不平等現(xiàn)象。哈佛大學(xué)教授戈德史密斯(Stephen Goldsmith)就表示，機(jī)器學(xué)習(xí)有望變革公共政策領(lǐng)域的方方面面。

美國(guó)芝加哥的公共衛(wèi)生健康部就用大數(shù)據(jù)和機(jī)器學(xué)習(xí)來(lái)鑒別體內(nèi)鉛含量超標(biāo)的兒童，并據(jù)此采取措施，幫助清除住房中的含鉛涂料。還用機(jī)器學(xué)習(xí)來(lái)發(fā)現(xiàn)存在犯罪傾向的青少年，提前加以干預(yù)。

通過(guò)更加精確地分配稀缺的公共資金，機(jī)器學(xué)習(xí)可以為政府節(jié)省大筆不必要的開(kāi)支。大數(shù)據(jù)也開(kāi)始參與政府決策，成為一項(xiàng)有效的決策工具。大倫敦地區(qū)的一個(gè)自治市就在開(kāi)發(fā)一種算法，用以預(yù)測(cè)哪些人可能會(huì)無(wú)家可歸。這些預(yù)測(cè)可以使政府服務(wù)來(lái)得更加及時(shí)，更有針對(duì)性，或許也能幫助政府更加有效地縮減收入差距。