(*AI Washing：它是某些企業(yè)為了改善自己的產(chǎn)品形象，迎合大眾口味，而進(jìn)行的一種虛假營銷手段。Gartner對(duì)外發(fā)布了一份“新興技術(shù)炒作周期圖”，顯示某些軟件公司正在利用人工智能這波熱浪，夸大AI在其產(chǎn)品中的能力，不加區(qū)分地給自己的產(chǎn)品貼上人工智能的標(biāo)簽。“機(jī)器學(xué)習(xí)”“認(rèn)知專家顧問”“軟件定義安全”“自動(dòng)駕駛汽車”“區(qū)域塊”等概念正處于炒作頂峰。Gartner公司把這種現(xiàn)象叫做“AI washing”。)
與非AI初創(chuàng)公司相比，這種有問題的營銷策略可以幫助他們獲得更多的種子輪、A輪和B輪融資。根據(jù)GlobalData的數(shù)據(jù)，僅去年一年，AI初創(chuàng)公司就籌集了超過500億美元的風(fēng)險(xiǎn)投資資金，考慮到ChatGPT的盛行，預(yù)計(jì)今年這一數(shù)字還會(huì)增長。
考慮到大量資金涌入這些初創(chuàng)公司，AI washing現(xiàn)象只會(huì)愈演愈烈。美國聯(lián)邦貿(mào)易委員會(huì)(FTC)充分意識(shí)到了這種危險(xiǎn)，并警告供應(yīng)商在宣傳其AI能力時(shí)要透明和誠實(shí)。
FTC廣告業(yè)務(wù)部門的律師Michael Atleson在一篇博文中寫道，“一些聲稱有AI技術(shù)的產(chǎn)品可能根本就沒有廣告宣傳的那么有效。在某些情況下，這種缺乏功效的情況可能仍然存在，并將造成其他潛在危害。營銷人員應(yīng)該知道，關(guān)于產(chǎn)品功效的虛假或未經(jīng)證實(shí)的聲明是我們堅(jiān)決打擊的。”
不過，在這種復(fù)雜的情況下，很難區(qū)分合法的AI解決方案和營銷噱頭。
德勤全球人工智能研究所執(zhí)行董事Beena Ammanath表示，“面對(duì)供應(yīng)商對(duì)其AI產(chǎn)品的宣傳，企業(yè)需要保持基本的懷疑態(tài)度。就像任何事情一樣，如果一件事聽起來好得令人難以置信，那它很可能就是陷阱。”
紐約大學(xué)CIO Donald Welch表示，如果CIO和他們的公司掉入這種虛假宣傳的陷阱，那么他們可能會(huì)面臨包括項(xiàng)目失敗或延遲、經(jīng)濟(jì)損失、法律訴訟、聲譽(yù)風(fēng)險(xiǎn)，甚至最終被解雇等后果。
幸運(yùn)的是，他們可以使用一些策略來避免錯(cuò)誤。
AI驅(qū)動(dòng)的企業(yè)需要技能嫻熟的員工
審查這些聲稱使用AI技術(shù)的企業(yè)可能是一個(gè)漫長而耗時(shí)的過程。然而，一些簡(jiǎn)單的事情，比如在LinkedIn上搜索，就可以發(fā)現(xiàn)一些有價(jià)值的見解。
Ammanath解釋稱，“審查供應(yīng)商員工的AI經(jīng)驗(yàn)和教育水平是個(gè)好主意。正在開發(fā)AI解決方案的公司應(yīng)該具備這樣的人才，這意味著他們?cè)贏I、機(jī)器學(xué)習(xí)、算法開發(fā)等方領(lǐng)域擁有豐富經(jīng)驗(yàn)的數(shù)據(jù)科學(xué)家和數(shù)據(jù)工程師。”
除了審查員工，CIO還可以尋找與外部AI專家和研究機(jī)構(gòu)合作的證據(jù)。這一類別包括與大學(xué)的合作，參與行業(yè)會(huì)議和活動(dòng)，以及對(duì)開源AI計(jì)劃的貢獻(xiàn)。如果供應(yīng)商有類似項(xiàng)目或應(yīng)用程序的經(jīng)驗(yàn)，這也是一個(gè)好跡象，因?yàn)檫@表明它可以交付高質(zhì)量的結(jié)果。
美國初創(chuàng)公司MacPaw的首席技術(shù)和創(chuàng)新官Vira Tkachenko補(bǔ)充道，“還可以仔細(xì)檢查供應(yīng)商的歷史。如果一家公司是AI領(lǐng)域的專家，它很可能在這個(gè)領(lǐng)域或其他AI產(chǎn)品上發(fā)表過研究論文。”
尋找一個(gè)精心設(shè)計(jì)的數(shù)據(jù)策略
真正將AI集成到產(chǎn)品中的公司也需要一個(gè)深思熟慮的數(shù)據(jù)策略，因?yàn)锳I算法需要它。他們需要處理高質(zhì)量的數(shù)據(jù)，數(shù)據(jù)越豐富、越相關(guān)，結(jié)果就越好。
Ammanath解釋稱，“AI系統(tǒng)是由大量數(shù)據(jù)驅(qū)動(dòng)的，因此這些公司也應(yīng)該有一個(gè)構(gòu)建良好的數(shù)據(jù)策略，并能夠解釋收集了多少數(shù)據(jù)以及從哪些來源收集數(shù)據(jù)。”
另一件值得關(guān)注的事情是，這些公司是否在遵守監(jiān)管要求方面付出了足夠的努力，并保持了較高的數(shù)據(jù)隱私和安全標(biāo)準(zhǔn)。隨著《歐盟通用數(shù)據(jù)保護(hù)條例》和《加州消費(fèi)者隱私法》等數(shù)據(jù)隱私法規(guī)的興起，企業(yè)必須對(duì)其數(shù)據(jù)實(shí)踐保持透明，并為個(gè)人提供對(duì)其個(gè)人數(shù)據(jù)的控制權(quán)。如果這種情況沒有發(fā)生，那就應(yīng)該是一個(gè)危險(xiǎn)信號(hào)。
請(qǐng)求證據(jù)來支持這些主張
雖然流行語可能很誘人，但耐心地詢問證據(jù)會(huì)有所幫助。Ammanath建議稱，“提出正確的問題，并要求提供產(chǎn)品聲明的證據(jù)，對(duì)于厘清營銷和銷售語言，以確定產(chǎn)品是否真的由AI驅(qū)動(dòng)至關(guān)重要。”
評(píng)估特定產(chǎn)品或服務(wù)的CIO可以詢問模型是如何訓(xùn)練的，使用了什么算法，以及AI系統(tǒng)將如何適應(yīng)新數(shù)據(jù)。
Tkachenko補(bǔ)充道，“你應(yīng)該詢問供應(yīng)商，他們使用什么庫或人工智能模型。他們可能會(huì)把一切都建立在一個(gè)簡(jiǎn)單的OpenAI API調(diào)用上。”
管理和技術(shù)咨詢公司BearingPoint的合伙人和全球技術(shù)主管Matthias Roeser對(duì)此表示贊同，并補(bǔ)充道，CIO還應(yīng)該徹底理解組成部分和框架，評(píng)估應(yīng)該包括“道德、偏見、可行性、知識(shí)產(chǎn)權(quán)和可持續(xù)性”等因素。
這種調(diào)查可以幫助CIO更多地了解該產(chǎn)品的真實(shí)功能和局限性，從而幫助他們決定是否購買該產(chǎn)品。
關(guān)注初創(chuàng)公司
初創(chuàng)公司將自己定位在創(chuàng)新的前沿。然而，雖然他們中的許多確實(shí)在AI領(lǐng)域突破了可能的界限，但有些可能只是夸大了他們的能力，以獲得關(guān)注和金錢。
美國初創(chuàng)公司Claid. ai的聯(lián)合創(chuàng)始人兼首席技術(shù)官Vlad Pranskevi?ius表示，“作為一家機(jī)器學(xué)習(xí)公司的首席技術(shù)官，我經(jīng)常遇到AI washing的情況，尤其是在創(chuàng)業(yè)社區(qū)。而且，最近這種情況變得更加嚴(yán)重。這種現(xiàn)象在像目前這樣的炒作周期中尤為危險(xiǎn)，因?yàn)锳I正被視為新的淘金熱。”
不過，Pranskevi?ius也認(rèn)為，隨著圍繞AI的監(jiān)管變得更加嚴(yán)格，AI washing將在不久的將來得到控制。
建立技術(shù)專業(yè)的聲譽(yù)
公司購買可疑的AI解決方案其實(shí)并不罕見，在這種情況下，并非都是CIO的錯(cuò)。相反地Welch認(rèn)為，“這可能是公司領(lǐng)導(dǎo)力低下的一個(gè)癥狀。業(yè)務(wù)部門被營銷炒作所迷惑，并越過了IT團(tuán)隊(duì)購買有問題的AI解決方案，最后IT團(tuán)隊(duì)來收拾殘局。”
為了防止這樣的情況發(fā)生，企業(yè)需要培養(yǎng)一種協(xié)作文化，在這種文化中，技術(shù)專業(yè)人士的意見受到重視，他們的觀點(diǎn)會(huì)被充分尊重。
與此同時(shí)，CIO和技術(shù)團(tuán)隊(duì)?wèi)?yīng)該在公司內(nèi)部建立自己的聲譽(yù)，這樣他們的意見才更容易被納入決策過程。要做到這一點(diǎn)，他們應(yīng)該表現(xiàn)出專業(yè)知識(shí)、專業(yè)精神和軟技能。
西格瑪軟件集團(tuán)的首席創(chuàng)新官M(fèi)ax Kovtun表示，“我認(rèn)為，對(duì)CIO來說，檢測(cè)AI washing不是太大的問題。更大的問題可能是業(yè)務(wù)利益相關(guān)者或企業(yè)家推動(dòng)以任何形式使用AI，因?yàn)樗麄兿Ｍ雌饋韯?chuàng)新和前沿。”
超越流行語
在比較產(chǎn)品和服務(wù)時(shí)，必須以開放的心態(tài)來評(píng)估它們，徹底查看它們的屬性。
Tkachenko認(rèn)為，“如果一個(gè)產(chǎn)品或服務(wù)對(duì)你來說唯一的優(yōu)勢(shì)就是AI，你應(yīng)該在訂閱之前仔細(xì)考慮一下。最好研究一下它的價(jià)值主張和特點(diǎn)，只有當(dāng)你了解這個(gè)項(xiàng)目在AI之外的好處時(shí)，才能開始合作。”
Welch對(duì)此表示贊同并補(bǔ)充道，“思考一下，你會(huì)因?yàn)橐粋€(gè)系統(tǒng)是用C、c++或Java編寫的而購買它嗎?作為盡職調(diào)查的一部分，你可能還需要了解他們是否能夠維護(hù)代碼、公司的生存能力等等。”
做一個(gè)徹底的評(píng)估可以幫助企業(yè)確定他們計(jì)劃購買的產(chǎn)品或服務(wù)是否符合他們的目標(biāo)，是否有可能提供預(yù)期的結(jié)果。
Kovtun表示，“技術(shù)越復(fù)雜，非專業(yè)人士就越難以理解它，以至于無法驗(yàn)證該技術(shù)的應(yīng)用是否正確、是否合理。如果你決定為你的公司利用AI技術(shù)，你最好聘請(qǐng)?jiān)贏I領(lǐng)域有經(jīng)驗(yàn)的知識(shí)淵博的專家。否則，你的努力可能不會(huì)為你帶來期望的好處。”
關(guān)注AI相關(guān)新聞
了解與AI相關(guān)的產(chǎn)品及其相關(guān)問題的最新情況，也可以幫助CIO做出明智的決策。通過這種方式，他們可以發(fā)現(xiàn)自己可能犯的潛在錯(cuò)誤，同時(shí)利用新的想法和技術(shù)。
底特律市CIO Art Thompson表示，“我認(rèn)為目前公眾對(duì)AI的了解程度還不夠”。
他建議CIO們進(jìn)行充分的研究，以避免落入新技術(shù)或?qū)嶒?yàn)性技術(shù)的陷阱，這些技術(shù)所承諾的遠(yuǎn)遠(yuǎn)超過了它的實(shí)際能力。他表示，如果發(fā)生這種情況，重新投標(biāo)和挑選更換產(chǎn)品的時(shí)間，真的會(huì)讓員工無法跟上任何變化。更不用說人們投入時(shí)間學(xué)習(xí)新技術(shù)的困難了。
此外，了解最新的AI相關(guān)事項(xiàng)可以幫助CIO預(yù)測(cè)監(jiān)管變化和新興行業(yè)標(biāo)準(zhǔn)，這可以幫助他們實(shí)現(xiàn)合規(guī)性并保持競(jìng)爭(zhēng)優(yōu)勢(shì)。
不僅僅是CIO需要與時(shí)俱進(jìn)。BearingPoint的Roeser建議稱，“教育你的團(tuán)隊(duì)或聘請(qǐng)專家，將相關(guān)能力添加到你的投資組合中。”
圍繞AI的額外監(jiān)管行動(dòng)
即將出臺(tái)的新法規(guī)可能會(huì)簡(jiǎn)化CIO們判斷產(chǎn)品或服務(wù)是否采用了真正的AI技術(shù)的任務(wù)。白宮最近發(fā)布了一項(xiàng)AI權(quán)利法案，其中包括負(fù)責(zé)任地設(shè)計(jì)AI系統(tǒng)的指導(dǎo)方針。未來幾年可能還會(huì)出臺(tái)更多法規(guī)。
Ammanath表示，“這些行動(dòng)背后的前提是保護(hù)消費(fèi)者權(quán)利和人類免受技術(shù)的潛在傷害。為了降低風(fēng)險(xiǎn)，我們需要預(yù)測(cè)技術(shù)的潛在負(fù)面影響。”
道德不應(yīng)該是事后考慮事項(xiàng)
企業(yè)傾向于強(qiáng)調(diào)新技術(shù)的潛在好處，同時(shí)往往淡化潛在的負(fù)面后果。
瑞士圣加侖大學(xué)博士后研究員Philip Di Salvo表示，“當(dāng)一項(xiàng)技術(shù)成為流行語時(shí)，我們往往會(huì)忽視它對(duì)社會(huì)可能產(chǎn)生的潛在有害影響。研究表明，企業(yè)正在推動(dòng)圍繞AI的討論，而技術(shù)決定論的論點(diǎn)仍然占主導(dǎo)地位。”
這種認(rèn)為“技術(shù)是社會(huì)和文化變革背后的主要驅(qū)動(dòng)力”的觀點(diǎn)，可能會(huì)掩蓋圍繞道德和政治影響的討論，而更傾向于以營銷為導(dǎo)向的論點(diǎn)。正如Di Salvo所說，這造成了“一種爭(zhēng)論的迷霧，使這些技術(shù)及其生產(chǎn)者更加模糊和不可問責(zé)。”
為了解決這個(gè)問題，有一個(gè)關(guān)鍵的挑戰(zhàn)是向公眾傳達(dá)人工智能實(shí)際上不是什么，它不能做什么。
Di Salvo解釋稱，“我們今天看到的大多數(shù)AI應(yīng)用——包括ChatGPT——基本上都是圍繞大規(guī)模應(yīng)用統(tǒng)計(jì)和數(shù)據(jù)分析構(gòu)建的。這可能聽起來像是一個(gè)無聊的定義，但它有助于避免對(duì)‘人工智能’定義中‘智能’所指的任何誤解。我們需要關(guān)注現(xiàn)實(shí)問題，如偏見、社會(huì)分類和其他問題，而不是假設(shè)的、推測(cè)的長期情景。”
關(guān)于企業(yè)網(wǎng)D1net(r5u5c.cn)：
國內(nèi)主流的to B IT門戶，同時(shí)在運(yùn)營國內(nèi)最大的甲方CIO專家?guī)旌椭橇敵黾吧缃黄脚_(tái)-信眾智(www.cioall.com)。同時(shí)運(yùn)營19個(gè)IT行業(yè)公眾號(hào)(微信搜索D1net即可關(guān)注)
版權(quán)聲明：本文為企業(yè)網(wǎng)D1Net編譯，轉(zhuǎn)載需在文章開頭注明出處為：企業(yè)網(wǎng)D1Net，如果不注明出處，企業(yè)網(wǎng)D1Net將保留追究其法律責(zé)任的權(quán)利。
京公網(wǎng)安備 11010502049343號(hào)