這種必要但令人頭疼的工作可能會(huì)讓開(kāi)發(fā)人員感到沮喪，消弱他們的動(dòng)力，然而，微軟有一個(gè)解決方案，可以讓他們更專注于創(chuàng)意過(guò)程，而不是模型的維護(hù)，這個(gè)叫做“模型即服務(wù)”（Models-as-a-Service，簡(jiǎn)稱MaaS）的解決方案，相當(dāng)于云服務(wù)的AI版本，按訪問(wèn)收費(fèi)而不是基礎(chǔ)設(shè)施費(fèi)用，并通過(guò)公司的AI Azure Studio產(chǎn)品提供。
保持簡(jiǎn)單
“如果你曾經(jīng)嘗試部署模型，你會(huì)發(fā)現(xiàn)有一系列的組合，包括化身、Pytorch版本、CPU和GPU等等，”微軟AI平臺(tái)的首席項(xiàng)目經(jīng)理Seth Juarez告訴記者。“模型即服務(wù)可以抽象掉所有這些，如果你有一個(gè)想要使用的模型，無(wú)論是開(kāi)源的還是OpenAI構(gòu)建的，我們都會(huì)在目錄中提供。你按下一個(gè)按鈕，就可以使用它的端點(diǎn)了。”
開(kāi)發(fā)人員可以通過(guò)按需付費(fèi)計(jì)劃租用推理API并托管微調(diào)——所有這些都不需要使用虛擬機(jī)。Juarez解釋說(shuō)，雖然微軟有超過(guò)1600個(gè)模型可以執(zhí)行各種功能，但它也希望讓開(kāi)發(fā)人員更容易地將AI功能融入他們的軟件中，MaaS就是實(shí)現(xiàn)這一目標(biāo)的方式。
從2023年起，微軟通過(guò)這個(gè)項(xiàng)目提供了一些精選的模型。最初，Mistral-7B和Meta的Llama 2是可用的。本周，它添加了Nixtla的TimeGen-1和Core42 JAIS，并表示AI21、Bria AI、Gretel Labs、NTT Data、Stability AI和Cohere的模型即將推出，這只是AI Azure Studio上可用內(nèi)容的一小部分，那么如何成為一個(gè)MaaS模型呢？
一些模型是公司合作的結(jié)果，Juarez承認(rèn)他不知道這些是如何發(fā)生的。其他模型被支持是因?yàn)橐恍〢PI工作使這些模型的功能簽名足夠統(tǒng)一，可以成為模型即服務(wù)的一部分。有一種統(tǒng)一訪問(wèn)這些模型的方法。不幸的是，更專業(yè)的模型不符合條件，必須以其他方式部署。“這就是為什么你會(huì)看到一些模型啟用為模型即服務(wù)，而其他你可以推送到自己的容器中運(yùn)行，我們稱之為托管推理，”他說(shuō)。
“租”或“擁有”你的模型
他相信未來(lái)我們會(huì)看到一種分化模式，開(kāi)發(fā)人員將選擇模型的方式類(lèi)似于房主或租房者。“基本上，你擁有容器、模型和Azure ML，你支付租金并進(jìn)行維護(hù)，”Juarez表示，“在模型即服務(wù)中，我們進(jìn)行維護(hù)。我們點(diǎn)亮的模型越多，如果你想租用，那很好，但還有其他人特別喜歡虛擬網(wǎng)絡(luò)，需要在其上運(yùn)行東西。”
MaaS并不是一個(gè)獨(dú)特的模式，但是什么使AI成為最突出的技術(shù)，以復(fù)制云計(jì)算業(yè)務(wù)？Juarez認(rèn)為現(xiàn)狀已經(jīng)顛倒——科技公司不再推出他們認(rèn)為我們需要的技術(shù)。現(xiàn)在，我們正在向科技公司需求功能和服務(wù)，這要?dú)w功于AI研究和商業(yè)化幾乎同步進(jìn)行。“至少在我看來(lái)，這就是為什么你會(huì)看到這種奇怪的倒置，消費(fèi)者通過(guò)使用ChatGPT的數(shù)量在要求這種體驗(yàn)?，F(xiàn)在，企業(yè)正試圖趕上……用戶今天想要研究的體驗(yàn)。”
企業(yè)網(wǎng)D1net(r5u5c.cn)：
國(guó)內(nèi)主流的to B IT門(mén)戶，同時(shí)在運(yùn)營(yíng)國(guó)內(nèi)最大的甲方CIO專家?guī)旌椭橇敵黾吧缃黄脚_(tái)-信眾智(www.cioall.com)。同時(shí)運(yùn)營(yíng)19個(gè)IT行業(yè)公眾號(hào)(微信搜索D1net即可關(guān)注)。
版權(quán)聲明：本文為企業(yè)網(wǎng)D1Net編譯，轉(zhuǎn)載需在文章開(kāi)頭注明出處為：企業(yè)網(wǎng)D1Net，如果不注明出處，企業(yè)網(wǎng)D1Net將保留追究其法律責(zé)任的權(quán)利。
京公網(wǎng)安備 11010502049343號(hào)