Gartner:CIO選擇大模型的6個標準及5種主要部署方式

責任編輯:shjiaz

作者:查士加

2023-08-01 16:28:46

來源:企業(yè)網D1Net

原創(chuàng)

近兩年,ChatGPT如燎原之勢迅速席卷而來。如何調整企業(yè)的AI戰(zhàn)略,使大模型的能力真正為企業(yè)所用?如何選擇適合行業(yè)企業(yè)的大模型?如何根據(jù)企業(yè)自身情況部署大模型?這些都是CIO關注的重要課題。

近兩年,ChatGPT如燎原之勢迅速席卷而來。在過去的半年里,眾多企業(yè)傾心生成式AI并展開探索與應用,其所帶來的影響也越來越深入。

如何調整企業(yè)的AI戰(zhàn)略,使大模型的能力真正為企業(yè)所用?如何選擇適合行業(yè)企業(yè)的大模型?如何根據(jù)企業(yè)自身情況部署大模型?這些都是CIO關注的重要課題。

生成式AI正在顛覆傳統(tǒng)業(yè)務

生成式AI正在改變產品的研發(fā)方式、優(yōu)化用戶體驗、提升員工的工作效率,甚至在顛覆傳統(tǒng)業(yè)務。

制造型企業(yè)的研發(fā)人員使用Autodesk的Dreamcatcher平臺,可以根據(jù)目標和約束條件直接生成CAD設計,連接3D打印機就能進行實體交付,大幅提升了研發(fā)和測試的效率。

在體育界,IBM為美國2023年高爾夫錦標賽大師賽提供生成式AI評論的數(shù)字新體驗,其人工智能生成式評論解決方案在比賽過程中為20,000多個視頻片段制作了詳細且專業(yè)的高爾夫比賽解說,精彩的比賽片段+專業(yè)的比賽解說為用戶提供了優(yōu)質的體驗。

Amazon的實時AI編程助手(CodeWhisperer)可以運用自然語言幫助開發(fā)團隊生成代碼、執(zhí)行代碼并進行代碼優(yōu)化。埃森哲的Velocity團隊基于CodeWhisperer將開發(fā)工作減少了30%。

ChatGPT的問世給教育服務提供商的股價帶來巨大影響,美國課外輔導在線教育公司Chegg的股價受GPT的影響足足下跌了50%。人工智能“反噬”科技行業(yè)的征兆已經出現(xiàn),就業(yè)市場也將受到影響。

今年4月Gartner在針對2000多家企業(yè)的調研中發(fā)現(xiàn):45%的企業(yè)看好生成式AI技術,并將增加對AI的投資。

今年年初Gartner在調研了300多家中國企業(yè)后發(fā)現(xiàn):AI能力相對成熟的企業(yè)更傾向于采用“AI First”的戰(zhàn)略,大部分中國企業(yè)側重AI運營和AI工程化,以決策為中心,通過AI技術輔助業(yè)務,使業(yè)務運營可擴展且更有韌性。一部分AI領先企業(yè)已開始探索將AI技術用于企業(yè)業(yè)務的各個領域,甚至是核心業(yè)務場景。

生成式AI戰(zhàn)略先行

Gartner提到了AI原生企業(yè)的概念,它指企業(yè)的核心流程如果離開AI將無法正常運轉。包括自適應、生成式、原生學習在內的生成式AI正在將AI原生企業(yè)這一理想變?yōu)楝F(xiàn)實,越來越多的企業(yè)將AI戰(zhàn)略納入企業(yè)數(shù)字化轉型的核心戰(zhàn)略。

Gartner高級研究總監(jiān)方琦(Mike Fang)強調:所有的AI戰(zhàn)略,如果脫離了企業(yè)自身的業(yè)務,將毫無價值可言。

因此對CIO而言,規(guī)劃AI戰(zhàn)略的第一步是與業(yè)務戰(zhàn)略對齊,而非單純從技術角度進行創(chuàng)新;其次要結合整體業(yè)務模式確定AI技術的優(yōu)先發(fā)力點;第三步要從投資與回報的角度明確AI能否大幅優(yōu)化業(yè)務;同時還要了解企業(yè)通過AI能力能獲得偏向防御型的能力,還是利用自身數(shù)據(jù)創(chuàng)造差異化的競爭力。

大部分中國企業(yè)進行了大量AI投入,有了比較清晰的AI戰(zhàn)略。在生成式AI大潮興起后,大多數(shù)企業(yè)重新規(guī)劃并更新了自身的AI戰(zhàn)略,生成式AI無疑增強了員工的工作能力。

CIO在規(guī)劃AI戰(zhàn)略時,應著重思考以下三個問題:

1、該如何培養(yǎng)企業(yè)的AI戰(zhàn)略師?

2、該如何重新培訓員工,使其在短期內熟練應用生成式AI工具?

3、未來什么樣的組織架構能讓員工樂于共享,甚至更民主化?

Gartner列舉了生成式AI在企業(yè)中的三類主要應用場景:

1、將算法集成到現(xiàn)有解決方案。在保證前期對AI的投資能繼續(xù)發(fā)揮作用的基礎上,將生成式Al的算法集成到現(xiàn)有的智能化解決方案中,解決原有方案不能識別的意圖,通過能力的更新和完善提升用戶體驗,使產品更具競爭力。

2、改進業(yè)務或工藝瓶頸。梳理業(yè)務的端到端流程,找到流程中的瓶頸,探索如何通過生成式AI的應用工具突破現(xiàn)有瓶頸,從而提升整體能力。

3、重塑人與機器的關系。當整個行業(yè)的供需關系發(fā)生變化,企業(yè)需要重塑人與機器的關系,找到新的平衡點。

Gartner在調研中發(fā)現(xiàn):在全球,70%的企業(yè)部署了20個以上的AI用例,企業(yè)平均部署AI用例的數(shù)量是41個,AI用例的平均使用壽命為3.5年;而在中國,86%的企業(yè)部署了5個以上的AI用例,企業(yè)平均部署的AI用例數(shù)量是24個,AI用例的平均使用壽命是2.8年。

管控生成式AI的相關風險同樣重要,包括違反中國法律法規(guī)的風險、供應商的風險、數(shù)據(jù)的隱私及保密風險、侵犯知識產權的風險、“幻覺”和有偏見的答案、網絡安全風險、員工應用范圍的風險等等,Gartner建議CIO在運用生成式AI技術時要充分與業(yè)務團隊進行風險的溝通,從而使技術能夠更好地落地應用。如果法務專家能夠參與AI用例的前期構思,將使AI的成熟度提升3.8倍。

在人才方面,全球超過70%的企業(yè)表示AI人才并不是難點。但是大多數(shù)中國企業(yè)表示人才或服務提供商短缺是AI技術被企業(yè)采用的最大障礙,53%的中國企業(yè)表示很難找到既擅長業(yè)務又懂AI技術的人才。對于中國企業(yè)而言,如何通過專業(yè)化的分工團隊,使AI技術更易落地,是企業(yè)需要從戰(zhàn)略角度思考的重要方向。值得注意的是,采用分布在企業(yè)內部的AI特別小組這類與業(yè)務混合的團隊,與中心化的AI團隊相比,前者的AI成熟度會更高。

當生成式AI能力出現(xiàn)后,企業(yè)需要更多跨部門的角色和技能,如需要開發(fā)人員能基于API進行處理,需要AI產品經理等角色,這些是企業(yè)未來AI人才儲備需要關注的重要課題。

如何選擇合適的大模型?

面對五花八門的大模型,如何選擇合適的大模型是多數(shù)企業(yè)關注的話題。

Gartner建議企業(yè)在選擇大模型時要關注以下幾個方面:

1、基本的語言能力。如多向對話的能力,生成文本的質量,知識的范圍等。

2、額外的語言能力。如哪些模型能寫代碼?哪些模型的邏輯和推理能力更強?是否支持多種語言?是否具備數(shù)據(jù)分析能力等。

3、提示詞工程。如模型的思維鏈如何?(是否與提示詞工程緊密結合?)是否具備情境學習的能力?是否擁有很好的操控性?(是否遵循指示?)

4、微調的難度。如果想對模型進行優(yōu)化或微調,是否支持將企業(yè)的知識注入模型中?

5、非功能性因素。如推理速度、成本,是否支持本地部署等。此外,如果模型后續(xù)進行迭代優(yōu)化,現(xiàn)有的應用是否能二次優(yōu)化?據(jù)悉,2024年GPT-4.0底座模型將對外開放,如果企業(yè)的應用產品是基于GPT-3.0版本開發(fā)的,后續(xù)是否要做二次優(yōu)化,是企業(yè)要考量的因素之一。

6、生態(tài)系統(tǒng)。當前很多廠商在做基于應用場景的AI插件,也有如Microsoft Copilot的打包軟件。企業(yè)在選擇模型時,還應考慮模型的生態(tài)系統(tǒng)是否友好,與工具/系統(tǒng)、插件的集成是否便捷,能否長期合作等。

企業(yè)部署生成式AI的五種方式

Gartner高級總監(jiān)(研究顧問)張桐梳理了企業(yè)部署大模型的5種主要方式:

1、直接購買嵌入應用程序的生成式AI。例如GPT或Salesforce推出的XGen等開源的AI大模型。

2、直接調用生成式AI的API接口。企業(yè)的應用系統(tǒng)可以直接調用開源大模型的API,從而進行數(shù)據(jù)檢索與提示詞工程的探索。

3、企業(yè)內部知識與生成式AI模型相結合。也就是將企業(yè)的數(shù)據(jù)內容準備好,包括形成企業(yè)的知識圖譜,只利用大模型的語言能力進行知識輸出。

4、在生成式AI模型的基礎上微調。在提示詞工程的基礎上,或直接在大模型的基礎模型之上,將行業(yè)的領域知識和企業(yè)的數(shù)據(jù)內容給到模型,讓模型理解、學習行業(yè)知識和企業(yè)知識,真正為企業(yè)所用。

5、從零開始自建模型。通過預訓練、監(jiān)督學習以及增強學習等方式,從0到1去打造一個專屬于行業(yè)企業(yè)的模型,需要進行大量的算力投入、資金投入以及人才投入。

訓練大模型的門檻很高,需要充足的預算、計算資源以及數(shù)據(jù)。此外,數(shù)據(jù)安全問題也是企業(yè)部署生成式AI必須考量的因素,自建模型的數(shù)據(jù)安全系數(shù)更高,調用API的方式存在一定的數(shù)據(jù)風險。以上5種方式由易到難且各有利弊,企業(yè)可以綜合考量適合自身的應用場景、投入力度以及數(shù)據(jù)安全需求,選擇適合的部署方式。

企業(yè)應用大模型的核心是將企業(yè)的內部知識與外部知識進行融合,只有內外部知識被融會貫通才能充分發(fā)揮大模型的價值。

以大模型應用中最常見的知識管理場景為例,企業(yè)需要建立與智能搜索相關的知識圖譜,嘗試在內部知識中將每個問題的答案找到,并將問題和答案一起發(fā)給大模型,通過大模型的自然語言能力+知識圖譜的知識結構能力,實現(xiàn)更好的人機交互體驗,從而得到準確答案。

展望未來

當前多數(shù)大模型的底座很難持續(xù)更新,以ChatGPT為例其訓練數(shù)據(jù)截止于2021年9月,并不能很快更新為企業(yè)提供實時的數(shù)據(jù)支持。伴隨業(yè)務的快速變化,企業(yè)需要通過混合的模式,通過知識圖譜或一些規(guī)則,將企業(yè)的內部知識注入生成式AI。

Gartner預測:下一代AI技術將向自適應AI的方向演進,也就是在不斷變化的復雜環(huán)境中,能夠基于數(shù)據(jù)自主、實時地進行模型的更新,以多個代理人的AI模擬或AI強化學習的方式,具備更快感知環(huán)境變化的能力,輸出更符合業(yè)務需求的結果。

關于企業(yè)網D1net(r5u5c.cn):

國內主流的to B IT門戶,同時在運營國內最大的甲方CIO專家?guī)旌椭橇敵黾吧缃黄脚_-信眾智(www.cioall.com)。同時運營19個IT行業(yè)公眾號(微信搜索D1net即可關注)

鏈接已復制,快去分享吧

企業(yè)網版權所有?2010-2024 京ICP備09108050號-6京公網安備 11010502049343號