在數(shù)字化轉(zhuǎn)型的浪潮中,人工智能(AI)已成為企業(yè)增強(qiáng)競(jìng)爭(zhēng)力、提速數(shù)字化轉(zhuǎn)型進(jìn)程的核心驅(qū)動(dòng)力。然而,在AI技術(shù)落地應(yīng)用的過程中,企業(yè)往往需要跨越重重挑戰(zhàn)。企業(yè)網(wǎng)D1net在與眾多CIO的深入交流中發(fā)現(xiàn),企業(yè)在AI落地過程中往往面臨四大難題。
首先是高昂的投入成本。從硬件采購(gòu)、軟件系統(tǒng)開發(fā)到長(zhǎng)期的運(yùn)維管理,每一個(gè)環(huán)節(jié)都伴隨著不菲的支出。尤其在大模型應(yīng)用場(chǎng)景下,所需的龐大算力往往難以自給自足,租賃外部算力成為多數(shù)企業(yè)節(jié)約初期成本的主要方式。
其次是發(fā)展方向及投入產(chǎn)出的不確定性。AI技術(shù)與模型迭代迅速,市場(chǎng)格局瞬息萬(wàn)變,新興初創(chuàng)公司層出不窮,這些因素共同導(dǎo)致了極高的不確定性。因此,CIO們?cè)谥贫ˋI預(yù)算時(shí)普遍持謹(jǐn)慎態(tài)度,傾向于在初見成效后再逐步加大投入。
第三,高質(zhì)量訓(xùn)練數(shù)據(jù)的稀缺性成為制約AI發(fā)展的又一瓶頸。大模型雖強(qiáng),卻需海量數(shù)據(jù)支撐,而在企業(yè)的實(shí)際業(yè)務(wù)場(chǎng)景中,數(shù)據(jù)量有限,高質(zhì)量數(shù)據(jù)更是鳳毛麟角。這使企業(yè)更加傾向于選擇那些數(shù)據(jù)量相對(duì)較小、精度卻更高的小模型。
最后,數(shù)據(jù)安全風(fēng)險(xiǎn)不容忽視。對(duì)于能源、醫(yī)療、金融、制造業(yè)等高度敏感的行業(yè)而言,模型的本地化部署需求尤為迫切。企業(yè)需確保數(shù)據(jù)在傳輸、處理及存儲(chǔ)過程中的安全合規(guī)性,以防范潛在的數(shù)據(jù)泄露風(fēng)險(xiǎn),維護(hù)公眾信任與企業(yè)聲譽(yù)。
紅帽全球副總裁兼大中華區(qū)總裁 曹衡康
面對(duì)這些復(fù)雜且棘手的挑戰(zhàn),企業(yè)在AI落地過程中往往步履維艱,難以充分發(fā)揮AI技術(shù)的真正價(jià)值。在2024紅帽論壇上,紅帽公司攜手行業(yè)領(lǐng)袖與頂尖生態(tài)伙伴,聚焦開源AI在企業(yè)應(yīng)用中的新思路與解決方案,為破解上述難題提供了有力的支持。紅帽全球副總裁兼大中華區(qū)總裁曹衡康指出,開源AI不僅能夠降低技術(shù)門檻和成本,還能通過社區(qū)協(xié)作加速創(chuàng)新,為企業(yè)帶來更大的靈活性和自主可控性,提升企業(yè)的競(jìng)爭(zhēng)力和市場(chǎng)響應(yīng)速度。
以開源的方式助力企業(yè)破解AI落地難題
紅帽的混合云理念鼓勵(lì)客戶在合適的場(chǎng)所部署算力,比如公司內(nèi)部數(shù)據(jù)中心、公有云,甚至跨多云環(huán)境。曹衡康提到,去年紅帽推出了“Unlock”理念,旨在避免客戶被鎖定在特定云上,開源架構(gòu)為客戶提供更多彈性和自由度。因此,在算力支持方面,始終鼓勵(lì)客戶使用紅帽的開放平臺(tái),以便在任意云和本地環(huán)境中靈活切換,滿足各種算力需求。
曹衡康在演講中提到,紅帽一直致力于通過開源技術(shù)推動(dòng)AI在企業(yè)中的應(yīng)用。他介紹了紅帽在開源AI領(lǐng)域的最新進(jìn)展,包括與IBM聯(lián)合發(fā)起的InstructLab開源社區(qū)項(xiàng)目,以及RHEL AI和OpenShift AI等產(chǎn)品。這些產(chǎn)品及工具旨在為企業(yè)提供從基礎(chǔ)支持到高級(jí)企業(yè)服務(wù)的全方位AI解決方案,幫助企業(yè)量身打造符合自身需求的AI應(yīng)用落地路徑。
紅帽大中華區(qū)方案架構(gòu)部總經(jīng)理 王慧慧
紅帽大中華區(qū)方案架構(gòu)部總經(jīng)理王慧慧提到,針對(duì)客戶在項(xiàng)目決策前對(duì)成本與收益的高度關(guān)注,紅帽推出了創(chuàng)新的“三步走”實(shí)施路徑,通過分階段實(shí)施,幫助客戶在確保項(xiàng)目可行性的同時(shí),以靈活、高效的方式響應(yīng)市場(chǎng)需求,最大化其投資回報(bào)率(ROI)。
第一步:輕量級(jí)試跑,降低門檻
首先,紅帽允許客戶在最小資源配置下,利用開源模型和工具進(jìn)行初步嘗試。這意味著客戶僅需使用普通的筆記本電腦CPU即可開始試跑,無(wú)需額外投資昂貴的GPU卡。這一舉措極大地降低了嘗試門檻,使得客戶能夠在幾乎無(wú)負(fù)擔(dān)的情況下,初步驗(yàn)證模型的適用性和效果。
第二步:云端擴(kuò)展,靈活升級(jí)
若客戶對(duì)初步測(cè)試結(jié)果滿意,可以進(jìn)入第二步,通過云租用算力進(jìn)行更深入的擴(kuò)展。紅帽平臺(tái)幾乎可在任何云上運(yùn)行,客戶可以選擇公司自有的數(shù)據(jù)中心,也可以在外部公有云等多種環(huán)境中運(yùn)行。這一步驟使得客戶能夠在確認(rèn)模型完全滿足其業(yè)務(wù)需求后,再考慮更大規(guī)模的部署,從而有效避免了資源浪費(fèi)和風(fēng)險(xiǎn)。
第三步:跨云混合部署,實(shí)現(xiàn)最優(yōu)ROI
最后一步,紅帽的架構(gòu)支持跨云混合部署??蛻艨梢愿鶕?jù)實(shí)際需要,在全球范圍內(nèi)靈活選擇云服務(wù)提供商,例如在中國(guó)采用阿里云,在美國(guó)則使用AWS等,這種多云方案既靈活又經(jīng)濟(jì)。紅帽的目標(biāo)是幫助客戶實(shí)現(xiàn)最佳的投資回報(bào)率(ROI),并在每一步提供適配的支持。
紅帽的“三步走”戰(zhàn)略旨在助力客戶快速推廣并應(yīng)用AI技術(shù),如Language AI、Code AI等。自今年5月在美國(guó)發(fā)布以來,紅帽AI技術(shù)已在全球范圍內(nèi)引起高度關(guān)注,并在中國(guó)市場(chǎng)取得初步成果。
首先,紅帽通過多渠道推廣AI技術(shù)的獨(dú)特優(yōu)勢(shì),提升市場(chǎng)認(rèn)知度。其次,構(gòu)建合作伙伴生態(tài),賦能技術(shù)與顧問團(tuán)隊(duì),深化對(duì)AI技術(shù)的理解與支持。最后,設(shè)立開放實(shí)驗(yàn)室,與客戶共同探索AI在企業(yè)場(chǎng)景中的應(yīng)用,確保技術(shù)的精準(zhǔn)落地。
值得一提的是,紅帽已成功助力一家保險(xiǎn)業(yè)客戶引入紅帽的新AI工具,僅在5個(gè)月內(nèi)便完成了生產(chǎn)部署,加速了該公司代碼審查與代碼合并請(qǐng)求的處理,顯著提升了準(zhǔn)確率和效率。這一案例成為在中國(guó)本地開發(fā)并投入生產(chǎn)的首個(gè)案例,也使亞太區(qū)成為第一個(gè)實(shí)現(xiàn)該應(yīng)用并成功投入生產(chǎn)的區(qū)域。
此外,紅帽內(nèi)部也在積極應(yīng)用AI優(yōu)化客戶支持流程,如智能推薦解決方案、自動(dòng)生成項(xiàng)目報(bào)告等,有效提升了工作效率與服務(wù)質(zhì)量。紅帽表示,將繼續(xù)深化開源AI技術(shù)的應(yīng)用與實(shí)踐,期待更多客戶分享成功案例,共同推動(dòng)AI技術(shù)的創(chuàng)新發(fā)展。
InstructLab:對(duì)齊適合企業(yè)AI應(yīng)用的“小模型”
會(huì)上,紅帽在現(xiàn)場(chǎng)演示了其在AI領(lǐng)域的全棧解決方案,包括Granite 語(yǔ)言和代碼模型、InstructLab、開源AI工具集、針對(duì)AI優(yōu)化的Linux操作系統(tǒng)以及OpenShift AI平臺(tái)等。這些解決方案旨在為企業(yè)提供一站式的AI開發(fā)、訓(xùn)練和部署服務(wù),幫助企業(yè)快速實(shí)現(xiàn)AI應(yīng)用落地。
InstructLab是一個(gè)用于生成式AI模型開發(fā)的開源社區(qū)項(xiàng)目,由紅帽與IBM聯(lián)合發(fā)起,幫助企業(yè)對(duì)齊適合自身AI應(yīng)用的“小模型”。通過InstructLab和小模型概念,企業(yè)可以快速將知識(shí)庫(kù)輸入到模型中,無(wú)論采用何種模型架構(gòu),都可以通過深度數(shù)據(jù)的方式生成企業(yè)的專屬模型,這種方式可以讓企業(yè)快速搭建適合自身的特有模型,大幅縮短了開發(fā)周期。
值得一提的是,InstructLab和Granite是一個(gè)相輔相成的體系。王慧慧提到,設(shè)計(jì)InstructLab的初衷主要有兩個(gè):一是讓客戶基于Granite基礎(chǔ)模型,使用InstructLab和自身數(shù)據(jù)訓(xùn)練出符合需求的模型。InstructLab的輸出分為“知識(shí)(knowledge)”和“技能(skill)”,兩者皆可留在企業(yè)內(nèi)部自用。
二是InstructLab能將知識(shí)和技能反饋至上游的管理機(jī)構(gòu)。當(dāng)管理機(jī)構(gòu)收到客戶反饋的更新后,可以將其整合到社區(qū)版本的Granite模型中,并發(fā)布新版本。因此,InstructLab是連接社區(qū)和客戶的橋梁。紅帽的開源平臺(tái)上,幾乎所有產(chǎn)品都遵循這種模式。在開源模型領(lǐng)域,這是紅帽和IBM運(yùn)用這一方法進(jìn)行的首次探索,旨在通過開源社區(qū)推動(dòng)開源模型的持續(xù)進(jìn)步,而不僅僅是開放某個(gè)版本的模型。
安利(中國(guó))及SEWC榮獲2024紅帽亞太創(chuàng)新獎(jiǎng)
會(huì)上,紅帽宣布了2024紅帽亞太創(chuàng)新獎(jiǎng)中國(guó)區(qū)獲獎(jiǎng)名單。安利(中國(guó))有限公司和西門子工業(yè)自動(dòng)化產(chǎn)品(成都)有限公司(以下簡(jiǎn)稱SEWC)獲得該獎(jiǎng)項(xiàng),表彰他們?cè)趧?chuàng)新運(yùn)用紅帽解決方案應(yīng)對(duì)不斷變化的業(yè)務(wù)需求方面的卓越表現(xiàn)。
為了支持業(yè)務(wù)擴(kuò)展、提升客戶滿意度,同時(shí)控制運(yùn)營(yíng)成本,安利(中國(guó))選擇紅帽優(yōu)化其生產(chǎn)供應(yīng)鏈。通過紅帽O(jiān)penShift混合云應(yīng)用平臺(tái),安利(中國(guó))實(shí)現(xiàn)了供應(yīng)鏈的全面數(shù)字化協(xié)同,開創(chuàng)了全新的生產(chǎn)數(shù)字孿生應(yīng)用。通過云端與邊緣設(shè)備端的協(xié)同實(shí)現(xiàn)了全制程可視化與可追溯。
這一創(chuàng)新平臺(tái)為安利(中國(guó))打造了一套全新的生產(chǎn)數(shù)字孿生應(yīng)用,極大地提升了質(zhì)量追蹤和原材料溯源的數(shù)字化水平。借助此平臺(tái),安利能實(shí)時(shí)洞察生產(chǎn)過程的每一個(gè)細(xì)節(jié),及時(shí)發(fā)現(xiàn)并解決潛在質(zhì)量問題,從而優(yōu)化資源配置、提高生產(chǎn)效率、降低運(yùn)營(yíng)成本。此外,客戶也能更透明地獲取產(chǎn)品信息,進(jìn)一步增強(qiáng)對(duì)安利(中國(guó))高質(zhì)量產(chǎn)品承諾的信心。
SEWC面臨著生產(chǎn)連續(xù)性受到挑戰(zhàn)的困境,包括系統(tǒng)靈活性和可擴(kuò)展性不足、開發(fā)效率低下,以及操作不便等問題。SEWC通過部署紅帽O(jiān)penShift,打造了MEMO(制造運(yùn)營(yíng)模塊化生態(tài)系統(tǒng)),一個(gè)新一代集成、靈活且彈性的生產(chǎn)支持系統(tǒng)。該系統(tǒng)顯著提升了生產(chǎn)線工人的用戶體驗(yàn)和工作效率,將前沿理念付諸實(shí)踐,為工業(yè)自動(dòng)化制造執(zhí)行系統(tǒng)的軟件應(yīng)用樹立了新的標(biāo)桿。
西門子工業(yè)自動(dòng)化產(chǎn)品(成都)有限公司IT部門經(jīng)理?xiàng)罱”硎荆琒EWC與紅帽合作的MEMO項(xiàng)目顯著提升了架構(gòu)靈活性和開發(fā)效率,為未來業(yè)務(wù)的發(fā)展提供了有力支撐。接下來,SEWC將繼續(xù)在微服務(wù)平臺(tái)上與紅帽深化合作,并計(jì)劃利用紅帽的虛擬化技術(shù)優(yōu)化其現(xiàn)有方案。
楊健提到,小模型在生產(chǎn)中非常適用,因?yàn)閼?yīng)用和場(chǎng)景單一,錯(cuò)誤率低,能保證質(zhì)量和過程的可控性。而大模型有時(shí)會(huì)出現(xiàn)幻覺現(xiàn)象,在生產(chǎn)應(yīng)用中存在一定風(fēng)險(xiǎn)。楊健對(duì)與紅帽未來的合作充滿期待,更對(duì)紅帽AI平臺(tái)表現(xiàn)出濃厚的興趣,期待將其整合到西門子的資源體系中,以進(jìn)一步優(yōu)化制造流程。
結(jié)語(yǔ)
隨著開源技術(shù)的不斷發(fā)展和普及,開源AI已經(jīng)成為推動(dòng)企業(yè)數(shù)字化轉(zhuǎn)型的重要力量。本次紅帽論壇不僅展示了開源與AI結(jié)合的巨大潛力和廣闊前景,也為企業(yè)提供了更多的選擇和合作機(jī)會(huì)。
未來,紅帽將繼續(xù)秉承開放、協(xié)作和創(chuàng)新的精神,與合作伙伴和客戶攜手共進(jìn),共同探索開源AI的無(wú)限潛能。我們相信,在不久的將來,開源AI將在更多領(lǐng)域發(fā)揮重要作用,加速企業(yè)的數(shù)字化轉(zhuǎn)型進(jìn)程,助力企業(yè)全面提升綜合競(jìng)爭(zhēng)力。