高通孟樸 —— 5G加持下生成式AI飛速普及 計算需求增加 混合AI處理日趨重要

責任編輯:yang

2023-05-26 18:39:50

摘自:至頂網(wǎng)

2023第七屆世界智能大會世界智能科技創(chuàng)新合作峰會于5月19日在國家會展中心(天津)成功舉辦。峰會全方位研討全球智能科技前沿議題,旨在進一步發(fā)揮世界智能大會集聚效應,推動全球智能科技創(chuàng)新發(fā)展,引領(lǐng)全球智能科技創(chuàng)新合作新趨勢。高通公司中國區(qū)董事長孟樸受邀出席峰會并發(fā)表了題為《創(chuàng)新、合作 以5G+AI賦能千行百業(yè)高質(zhì)量發(fā)展》的演講,介紹了高通在5G與AI領(lǐng)域的創(chuàng)新與實踐。

圖為高通公司中國區(qū)董事長孟樸在2023第七屆世界智能大會世界智能科技創(chuàng)新合作峰會上發(fā)表主題演講

孟樸在演講中指出,作為數(shù)字經(jīng)濟的關(guān)鍵技術(shù),AI正在被越來越多地深入討論,也正成為各行各業(yè)高質(zhì)量發(fā)展的新引擎。他認為,5G與AI間的交互和融合是技術(shù)發(fā)展的大勢所趨。在5G的加持下,隨著生成式AI的飛速普及和計算需求的日益增長,混合處理的重要性空前凸顯。與僅在云端進行處理不同,混合AI在云端和邊緣終端之間分配并協(xié)同處理AI工作負載,這樣才能實現(xiàn)AI的規(guī)模化擴展并使其發(fā)揮巨大的潛能。在人工智能領(lǐng)域,高通正與廣泛的生態(tài)系統(tǒng)緊密協(xié)作,并將AI擴展到更廣泛的領(lǐng)域,除了智能手機以外,高通的AI技術(shù)正支持汽車、智能家居和物聯(lián)網(wǎng)領(lǐng)域的廣泛終端設備。

以下為孟樸演講實錄:

尊敬的朱鵬市長、鄔江興院士以及各位嘉賓,大家上午好!非常榮幸今天能夠來參加第七屆世界智能大會暨世界智能科技創(chuàng)新合作峰會,并與大家分享高通公司在5G與AI領(lǐng)域的進一步創(chuàng)新,我也期待和大家有更多的交流機會。

長期以來,讓機器更加智能一直是人們的愿景。如今我們生活中幾乎所有設備和物體,無論是智能手機、汽車、冰箱還是洗衣機,都越來越多地擁有更多類型的傳感器、更強大的處理器和更快的連接,使其具有感知、推理和行動能力成為可能。

但這僅僅是開始。近一段時間,基于大型語言模型的ChatGPT引起廣泛的關(guān)注,隨著生成式AI帶來空前的創(chuàng)新和發(fā)展,AI正在觸及我們生活的各個角落,從智能手機、電視、視頻游戲等娛樂體驗,到通過視頻會議、XR應用加強協(xié)作提升生產(chǎn)力,再擴展到自動駕駛汽車、智能工廠、智能醫(yī)療、智能檢測等領(lǐng)域,其變革千行百業(yè)的趨勢日益明顯。

作為數(shù)字經(jīng)濟的關(guān)鍵技術(shù),AI正在被越來越多地深入討論,也正成為各行各業(yè)高質(zhì)量發(fā)展的新引擎。由AI驅(qū)動的智能個體化體驗需求不斷增長,我們的設備也正在產(chǎn)生越來越多的數(shù)據(jù),5G將支持這些邊緣側(cè)產(chǎn)生情境豐富的數(shù)據(jù),且近乎實時地分享給其他終端和云端,從而賦能全新的應用、服務、環(huán)境和體驗。

5G具有高速率、高可靠性和低時延的特點,而且可以實現(xiàn)海量的連接。而AI正是基于5G的這些特點,實現(xiàn)了突飛猛進的發(fā)展,并且遷移到終端,使自動駕駛、VR/XR眼鏡、機器人等眾多應用場景成為可能。

作為影響到各行各業(yè)的基礎(chǔ)技術(shù),5G和AI之間的交互和融合是技術(shù)發(fā)展的大勢所趨。5G和AI結(jié)合邊緣云,將以顛覆性的方式推動企業(yè)的創(chuàng)新。在5G的加持下,隨著生成式AI的飛速普及和計算需求的日益增長,混合處理的重要性空前凸顯。與僅在云端進行處理不同,混合AI在云端和邊緣終端之間分配并協(xié)同處理AI工作負載,這樣才能實現(xiàn)AI的規(guī)模化擴展并使其發(fā)揮巨大的潛能。

例如,混合AI架構(gòu)可以根據(jù)模型和查詢需要的復雜度等因素,選擇不同的方式在云端和終端側(cè)之間分配任務負載,也可以完全在終端側(cè)進行;如果是更復雜的任務,模型則可以跨云端和終端進行運行。

數(shù)據(jù)中心能耗巨大且昂貴。據(jù)測算,每個生成式AI網(wǎng)絡搜索查詢的成本比傳統(tǒng)搜索高10倍。如果每天進行超過100億次查詢,每年的額外成本可能達到數(shù)十億美元。而混合AI將在全球范圍內(nèi)提供成本、能源、性能、隱私、安全和個性化方面的優(yōu)勢。云端和智能手機、汽車、個人電腦和物聯(lián)網(wǎng)終端等協(xié)同工作,能夠?qū)崿F(xiàn)更強大、更高效而且高度優(yōu)化的AI。

業(yè)內(nèi)預測,到2025年,64%的數(shù)據(jù)將在傳統(tǒng)的數(shù)據(jù)中心以外產(chǎn)生。邊緣側(cè)數(shù)據(jù)的增長,使本地數(shù)據(jù)處理和智能應用的需求隨之增長。AI處理能力擴展到邊緣側(cè),情境豐富的數(shù)據(jù)在邊緣側(cè)產(chǎn)生,智能網(wǎng)聯(lián)邊緣應運而生。這將顯著推動更加豐富的AI應用規(guī)?;渴?,并整體提高云端智能。

隨著諸多行業(yè)的數(shù)字化轉(zhuǎn)型,運行在智能網(wǎng)聯(lián)邊緣的智能終端受到高度關(guān)注,需求也有很大提升。如今這些設備不僅需要出色的連接和互操作性,以及強大的邊緣計算和AI特性,同時還要兼顧安全和隱私保護,以支持各個行業(yè)的諸多應用,包括打造更安全的社區(qū)及做出更好的業(yè)務決策等。

終端側(cè)AI是實現(xiàn)混合式AI架構(gòu)、擴展生成式AI至全球更廣范圍的關(guān)鍵。相比在云端運行AI,終端側(cè)AI在隱私、可靠、低延時、高效及個性化方面均有諸多的優(yōu)勢。伴隨著移動終端成為人們生活中的必備品,終端側(cè)AI的優(yōu)勢將更加明顯。

以終端側(cè)AI為中心的混合AI架構(gòu)中,端側(cè)設備作為錨點,可以運行數(shù)十億參數(shù)的模型,而更復雜的模型將根據(jù)需要在用戶無縫感知的情況下,使用云端計算。終端側(cè)AI能夠提升安全性、保護隱私,敏感數(shù)據(jù)可保存在終端,無需發(fā)送至云端,這對大規(guī)模共享環(huán)境至關(guān)重要。隨著終端側(cè)AI處理能力的提高,可以進一步減少云端負載,助力更高效地利用有限的網(wǎng)絡資源和帶寬。

可以預見,隨著生成式AI的不斷進步,其應用場景也變得越來越廣闊。通過生成式AI,智能手機可以成為真正的數(shù)字助手,讓用戶可以通過更加自然地交互得到答案;電腦用戶可以用它來讀寫電子郵件,自動起草文件和演示文稿;在車輛中,對話式的車內(nèi)助手可以提供附近充電樁的位置建議、也可以在回家路上訂購晚餐。

不難發(fā)現(xiàn),在這一過程中,終端側(cè)AI扮演著至關(guān)重要的角色。根據(jù)有關(guān)機構(gòu)的預測,到2025年,在智能手機、PC/平板電腦、擴展現(xiàn)實(XR)、汽車和物聯(lián)網(wǎng)等細分領(lǐng)域的AI應用率,將從2018年的不到10%,增加到100%。在這一趨勢的推動下,終端側(cè)AI將成為許多關(guān)鍵平臺的標準特性,這將為中國乃至全球的AI生態(tài)系統(tǒng)的進一步發(fā)展帶來機遇。

為了把握更多創(chuàng)新機遇,在萬物互聯(lián)時代取得成功,高通公司專注于高性能硬件/軟件和優(yōu)化的神經(jīng)網(wǎng)絡設計,讓高效節(jié)能的AI無處不在。

如何在低功耗環(huán)境下讓AI更高效地運行,這是高通AI研發(fā)最關(guān)注的領(lǐng)域。我們致力于通過提供高效的硬件、算法和軟件工具,持續(xù)推動性能功耗比提升。除此之外,高通公司發(fā)布了統(tǒng)一的高通AI軟件棧(Qualcomm AI Stack),以單一軟件組合實現(xiàn)跨多品類終端的運行,賦能生態(tài)系統(tǒng)。憑借創(chuàng)新解決方案和廣泛生態(tài)合作,高通公司正持續(xù)推動終端側(cè)AI的普及。

過去十多年,高通公司一直致力于AI領(lǐng)域各個方面的研究,并取得眾多里程碑式的進展,推出多代AI引擎,為智能手機、移動計算、XR、汽車、物聯(lián)網(wǎng)等終端帶來卓越的邊緣側(cè)AI性能。我們的基礎(chǔ)研究和所交付的產(chǎn)品,讓AI可以應用于眾多行業(yè)。早在2007年,我們就啟動了首個AI研究項目;2018年,高通成立了人工智能研究院(Qualcomm AI Research),將公司范圍內(nèi)開展的全部前沿人工智能研究,進行跨各職能部門的協(xié)作式強化整合,以加速AI創(chuàng)新。我們也十分關(guān)注整個行業(yè)的創(chuàng)新趨勢和生態(tài),并通過風險投資的方式積極支持AI領(lǐng)域的初創(chuàng)企業(yè)。2018年,高通公司設立了1億美元的AI風險投資基金。目前,由高通AI技術(shù)賦能的終端數(shù)量已經(jīng)超過20億。

在人工智能領(lǐng)域,高通正與廣泛的生態(tài)系統(tǒng)緊密協(xié)作。我們支持當前所有的主流框架,例如TensorFlow、Caffe/Caffe2等;我們也支持各種操作系統(tǒng),包括Android、Windows和Linux。高通公司積極與來自中國和全球的云合作伙伴進行合作,把更多的AI特性帶給用戶,比如圖片處理、臉部檢測、物體檢測等。更重要的是,我們正將AI擴展到更廣泛的領(lǐng)域,除了智能手機以外,我們的AI技術(shù)正支持汽車、智能家居和物聯(lián)網(wǎng)領(lǐng)域的廣泛終端設備。

具有出色能效比、靈活可拓展的高通AI引擎和高通AI軟件棧所提供的高效便捷的開發(fā)能力,以及眾多的生態(tài)合作伙伴,讓高通公司在終端側(cè)AI應用領(lǐng)域走在了行業(yè)前列。在不久前舉行的世界移動通信大會期間,高通公司首次展示了讓Stable Diffusion在安卓智能手機上運行。Stable Diffusion是一個流行的基礎(chǔ)生成式AI模型,能夠基于文本輸入來創(chuàng)作圖像,以前只是限于在云端運行。利用高通AI軟件棧執(zhí)行全棧AI優(yōu)化,我們最終使Stable Diffusion可以在智能手機上運行。Stable Diffusion的模型參數(shù)超過10億,通過智能手機的演示,可以在15秒內(nèi)執(zhí)行20步推理,生成一張512x512像素的圖像。這是目前在智能手機上最快的推理速度,能夠媲美云端時延。生成式AI將驅(qū)動全新科技升級周期,為眾多用戶呈現(xiàn)可感知的AI特性,并且改變用戶的使用體驗。這些因素有可能為移動行業(yè)創(chuàng)造全新機遇。

在汽車行業(yè),生成式AI也正在為汽車駕乘提供高度個性化的體驗。以智能座艙的數(shù)字助手為例,將實現(xiàn)更為自然的交互,并通過訪問用戶個人數(shù)據(jù),提供更具個性化的服務和體驗,包括:導航體驗將大大改善,將具有前瞻性的協(xié)助性能;隨著車內(nèi)AR的普及,數(shù)字助手可以根據(jù)駕駛員或乘客的喜好定制顯示。此外,車輛維護和維修也將變得更加主動和無縫:通過分析傳感器、維修歷史和駕駛行為等數(shù)據(jù),數(shù)字助手可以更精確地預測維護時間,以提高車輛的可靠性,同時減少維修時間和費用。此外,隨著高級駕駛輔助系統(tǒng)(ADAS)解決方案的采用,車輛中需要大量具有高能效比的AI算力。

高通正在將多年來在AI領(lǐng)域的技術(shù)積累提供給汽車廠商等生態(tài)合作伙伴,以共同打造智能化的汽車用戶體驗。目前為止,驍龍座艙平臺已經(jīng)支持中國汽車品牌推出了超過80款車型,國內(nèi)的頭部車企均與高通公司在數(shù)字座艙領(lǐng)域展開了深度合作。除此之外,高通公司也在高級駕駛輔助系統(tǒng)(ADAS)領(lǐng)域與國內(nèi)車企進行合作,合作范圍涵蓋L1到L4級系統(tǒng)。除了在終端側(cè),高通也在利用其無線通信解決方案及相關(guān)優(yōu)勢,來打造“聰明的車”,使其與智慧城市相連,甚至與家庭、手機進行無縫連接。高通公司與國內(nèi)許多車企,包括比亞迪、蔚來、長城、理想、吉利、紅旗等都已經(jīng)達成了一系列合作。

AI已經(jīng)廣泛應用于物聯(lián)網(wǎng)的各個垂直領(lǐng)域,包括零售、安全、能源和公共事業(yè)、供應鏈和資產(chǎn)管理等。AI能夠基于實時收集和分析的數(shù)據(jù),改善決策制定、優(yōu)化運營效率,促進創(chuàng)新,創(chuàng)造競爭差異化。

通過生成式AI,物聯(lián)網(wǎng)領(lǐng)域?qū)⑦M一步受益。例如,生成式AI不僅可以改善零售業(yè)的客戶和員工體驗,能源和公共事業(yè)部門也將受益于此。電力部門可以創(chuàng)建特殊情況負載場景,并預測在異常情況下的用電需求和潛在的電網(wǎng)故障,以更好地管理資源并避免停電。

為持續(xù)擴展AI賦能各行各業(yè)的高質(zhì)量發(fā)展,高通公司在今年4月宣布推出全新物聯(lián)網(wǎng)解決方案,匯集業(yè)界領(lǐng)先的技術(shù),包括邊緣AI處理、創(chuàng)新能效、超清晰視頻和5G連接等,驅(qū)動下一代具有韌性的高性能物聯(lián)網(wǎng)生態(tài)系統(tǒng)和用例。這些產(chǎn)品采用了高通優(yōu)化的AI架構(gòu),為豐富的商業(yè)模式和用例提供強大的處理能力。在中國,我們也積極與我們的合作伙伴攜手推動這些產(chǎn)品及應用落地。

智相聯(lián),萬物生。

未來,高通公司將秉承“植根中國,分享智慧,成就創(chuàng)新”的理念,通過“發(fā)明-分享-協(xié)作”的商業(yè)模式,繼續(xù)攜手生態(tài)伙伴,以先進的連接、計算和AI等關(guān)鍵技術(shù),助力智能網(wǎng)聯(lián)終端的擴展和普及,加速移動生態(tài)系統(tǒng)創(chuàng)新,推動更多應用場景的落地。讓我們一起努力,釋放科技的力量,加速邁向人與萬物智能互聯(lián)的美好未來。

謝謝大家!

鏈接已復制,快去分享吧

企業(yè)網(wǎng)版權(quán)所有?2010-2024 京ICP備09108050號-6京公網(wǎng)安備 11010502049343號