0
ChatGPT發(fā)布不過(guò)半年,全球性AI再造已經(jīng)拉開(kāi)序幕,甚至一開(kāi)場(chǎng)直接進(jìn)入白熱化競(jìng)爭(zhēng)狀態(tài)。據(jù)不完全統(tǒng)計(jì),國(guó)內(nèi)類似ChatGPT的產(chǎn)品已經(jīng)有接近40個(gè)。
面對(duì)這一波浪潮,不少企業(yè)已經(jīng)率先開(kāi)展行動(dòng),將大模型應(yīng)用到自身業(yè)務(wù)中。不過(guò),緊接著難題也隨之而來(lái),不同廠商之間的大模型,到底應(yīng)該如何選?怎么評(píng)判各家做大模型的實(shí)力?
當(dāng)前,國(guó)內(nèi)市場(chǎng)以“大模型”為名推出的產(chǎn)品雖有約四十款,但大模型領(lǐng)域仍未形成公認(rèn)的行業(yè)標(biāo)準(zhǔn),供使用者參考研判。
對(duì)于企業(yè)而言,缺乏評(píng)判標(biāo)準(zhǔn)的現(xiàn)狀,加劇了他們?cè)诿鎸?duì)大模型時(shí)的矛盾心理。
雷峰網(wǎng)在與企業(yè)交流時(shí)了解到,不少企業(yè)雖然秉持擁抱新技術(shù)的開(kāi)放心態(tài),但行業(yè)魚(yú)龍混雜,市場(chǎng)噪聲太大,又讓他們不得不更加謹(jǐn)慎對(duì)上。而“得算力者得大模型”的觀點(diǎn)甚囂塵上,更是影響了他們進(jìn)一步接觸和使用大模型。
的確,算力焦慮,從大模型走紅的第一天起,就伴隨著各大廠商甚至整個(gè)科技行業(yè),“互聯(lián)網(wǎng)大廠緊急備貨GPU為大模型開(kāi)路”的傳聞一直沒(méi)有斷過(guò)。而在上個(gè)月,ChatGPT也因需求量太大,一度暫停升級(jí)服務(wù),并停止 Plus 付費(fèi)項(xiàng)目的銷售。
但事實(shí)上,“得算力者得大模型”這個(gè)觀點(diǎn),存在一定片面性。GPU卡數(shù)量越多,并不意味著大模型的表現(xiàn)就越優(yōu)秀、企業(yè)使用大模型的效果就越好。
廠商擁有上千、上萬(wàn)張GPU卡,除了“買不起”,還會(huì)有“用不好”的問(wèn)題,如此大規(guī)模的集群去做訓(xùn)練,一旦出現(xiàn)bug就很難調(diào)整,這對(duì)廠商的整體調(diào)優(yōu)服務(wù)能力、端到端成本的控制能力,都是一種考驗(yàn)。
在大模型風(fēng)起之初,企業(yè)判斷和選擇大模型廠商時(shí),算力因素很多時(shí)候會(huì)被排在第一位,但大模型真正的使用效果和綜合體驗(yàn),是來(lái)自于算力、框架、模型、應(yīng)用構(gòu)筑的四層架構(gòu),相互配合所產(chǎn)生的“化學(xué)反應(yīng)”。
打個(gè)比方,如果某個(gè)應(yīng)用上經(jīng)過(guò)調(diào)優(yōu),在同等算力情況下,性能提高50%,那就意味著算力需求可以降低50%。
企業(yè)如果想借助大模型,在業(yè)務(wù)發(fā)展踏上新臺(tái)階,需要的不止是智能算力,還需要靈活的框架平臺(tái),豐富的大模型體系,以及對(duì)于業(yè)務(wù)來(lái)說(shuō)更加優(yōu)質(zhì)的方案。更重要的一點(diǎn),在四者之間,端到端的適配和優(yōu)化,這是“既要、也要、還要”的端到端優(yōu)化的過(guò)程。
就好比選擇智能手機(jī),一開(kāi)始人們買手機(jī)關(guān)心跑分,后來(lái)人們發(fā)現(xiàn)跑分并不等同于使用體驗(yàn)。大模型也同樣如此,算力充足不代表使用體驗(yàn)。
對(duì)很多企業(yè)而言,目前再接觸大模型,已經(jīng)不再是“了解一下”“嘗嘗新鮮”的階段了,不少企業(yè)已經(jīng)意識(shí)到,大模型對(duì)每個(gè)人、每個(gè)行業(yè)都有結(jié)構(gòu)性影響。
陸奇在前不久的演講中談到,未來(lái)在大模型之上,將有更多大模型會(huì)更多的模型被建立,展開(kāi)來(lái)說(shuō)有兩類:一類是事情的模型,人類每一類需求都有領(lǐng)域/工作模型,其中有結(jié)構(gòu)模型、流程模型、需求模型和任務(wù)模型,尤其是記憶和先驗(yàn);另一類是人的模型,包括認(rèn)知/任務(wù)模型,它是個(gè)體的,其中有專業(yè)模型,有認(rèn)知模型、運(yùn)動(dòng)模型和人的記憶先驗(yàn)。人基本是這幾類模型的組合,律師也好,醫(yī)生也好,大量領(lǐng)域會(huì)有大量模型往前走。
百度等多家大模型廠商都向雷峰網(wǎng)透露,前來(lái)接觸的客戶已經(jīng)從最開(kāi)始的CEO層級(jí),變成具體的技術(shù)和業(yè)務(wù)團(tuán)隊(duì),討論的內(nèi)容也從天馬行空的想象,變成“大模型如何用好”這類更接地氣的主題。
他們談到,企業(yè)對(duì)大模型調(diào)度實(shí)際落地需求十分迫切,關(guān)心如何才能產(chǎn)生真正有成效的轉(zhuǎn)化,也逐漸開(kāi)始更關(guān)注易用性、安全性、可擴(kuò)展性等一系列具體的指標(biāo)。
百度大模型落地企業(yè)是比較迅速的。
3月27日,也是文心一言發(fā)布后的11天,百度云低調(diào)舉行閉門(mén)溝通會(huì),向首批企業(yè)客戶開(kāi)啟內(nèi)測(cè),并推出全球首個(gè)一站式企業(yè)級(jí)大模型平臺(tái)——“文心千帆”,為企業(yè)提供包括數(shù)據(jù)標(biāo)注處理、再訓(xùn)練微調(diào)、大模型壓縮、指令(Prompt)自動(dòng)化、編排功能等大模型推理、微調(diào)、托管等服務(wù)。
時(shí)隔兩月,內(nèi)測(cè)進(jìn)展究竟如何?5月9日,在百度云舉行的文心大模型技術(shù)交流會(huì)上,百度云對(duì)外展示了“文心千帆”在企業(yè)端落地情況。
據(jù)雷峰網(wǎng)(公眾號(hào):雷峰網(wǎng))了解,“文心千帆”結(jié)合不同企業(yè)需求,提供公有云和私有云兩種部署方式,公有云部署提供推理、微調(diào)和托管三類交付模式,而私有云部署提供軟件授權(quán)、軟硬一體、租賃服務(wù)三種交付模式。
這些不同的交付模式,可滿足不同企業(yè)的需求。
于許多企業(yè)而言,當(dāng)前公司內(nèi)部資深A(yù)I人才儲(chǔ)備并沒(méi)有那么充足,再加上近期通用人工智能的火爆,AI人才更是難招,許多大廠是直接重金開(kāi)卷,招兵買馬。
在這種背景下,這些企業(yè)在選擇大模型開(kāi)發(fā)平臺(tái)上,會(huì)重點(diǎn)關(guān)注大模型開(kāi)發(fā)是否低門(mén)檻、高效率。
為給有專屬模型需求的企業(yè)降低模型訓(xùn)練難度,“文心千帆”主打開(kāi)箱即用,企業(yè)無(wú)需找大量資深A(yù)I人才進(jìn)行繁瑣的環(huán)境配置工作,同時(shí)從數(shù)據(jù)處理、模型訓(xùn)練、 到部署服務(wù)、 應(yīng)用集成,每個(gè)環(huán)節(jié)都可以通過(guò)簡(jiǎn)單的界面操作來(lái)實(shí)施,大幅降低企業(yè)使用門(mén)檻,提升了模型打磨效率,降低了成本。
此外,對(duì)于無(wú)需定制專屬模型的企業(yè),“文心千帆”提供直接推理的交付方式,企業(yè)可直接調(diào)用文心一言,一鍵讓業(yè)務(wù)變得智能化。
除低門(mén)檻、高效率外,能否兼容各類大模型的開(kāi)發(fā)與應(yīng)用也是企業(yè)非常關(guān)心的問(wèn)題。
當(dāng)前大模型賽道并未發(fā)展到一家獨(dú)大的階段,開(kāi)源社區(qū)也十分活躍,再加上在To B領(lǐng)域,客戶的選型決策有時(shí)候不只是看技術(shù)指標(biāo),而是要考慮客情、服務(wù)等等,企業(yè)往往有多樣化的選型需求。
因此,大模型開(kāi)發(fā)平臺(tái)最好要能適應(yīng)不同的模型。
據(jù)了解,“文心千帆”一方面支持文心一言模型的開(kāi)發(fā),企業(yè)可以直接調(diào)用文心一言的核心推理能力,輸出推理結(jié)果,也可以在其基礎(chǔ)上進(jìn)行微調(diào),得到專屬模型。另一方面,對(duì)于其他開(kāi)源、閉源模型,“文心千帆”也提供了同樣提供數(shù)據(jù)準(zhǔn)備、數(shù)據(jù)安全、微調(diào)等全套工具鏈。
當(dāng)然,安全也是當(dāng)下企業(yè)在選擇大模型平臺(tái)的重要因素。
2022年被稱為是“數(shù)據(jù)安全元年”,包括《數(shù)據(jù)安全法》在內(nèi),國(guó)家陸續(xù)出臺(tái)了一系列與數(shù)據(jù)及其安全保護(hù)相關(guān)的政策法規(guī)和標(biāo)準(zhǔn)規(guī)范,要求做好企業(yè)數(shù)據(jù)安全,尤其是黨政、金融、教育、電力等重點(diǎn)行業(yè)。
為確保數(shù)據(jù)安全、以及自主可控,“文心千帆”配備了完備的安全機(jī)制,來(lái)確保模型輸入輸出穩(wěn)定,保障數(shù)據(jù)安全,此外,上文提到了百度云支持私有云部署方式,在私有云交付產(chǎn)品形態(tài)里面,企業(yè)可以選擇軟件授權(quán)、軟硬一體的一攬子方案、以及租賃方案。
“文心千帆”之所以能夠具備這么低門(mén)檻、高效率、安全等多種能力,離不開(kāi)百度AI大底座技術(shù)支持。
這個(gè)大底座將百度多年產(chǎn)業(yè)深度實(shí)踐積累的全要素智算基礎(chǔ)設(shè)施,芯片、框架、模型、應(yīng)用核心組件整合到一起,同時(shí)通過(guò)每一層之間的相互協(xié)同優(yōu)化和適配,能夠?yàn)槠髽I(yè)帶來(lái)更具性價(jià)比的智能算力、自主研發(fā)的深度學(xué)習(xí)框架,端到端的整體支持。
基于四層架構(gòu)的優(yōu)勢(shì),大模型訓(xùn)練的計(jì)算速度、管理和利用計(jì)算資源效率、開(kāi)發(fā)效率極大提升。
據(jù)百度提供的數(shù)據(jù)顯示,與其他未經(jīng)優(yōu)化的架構(gòu)相比,百度AI大底座在相同的時(shí)間內(nèi)完成的計(jì)算量提升了90%以上,資源利率效率提升70%以上,開(kāi)發(fā)人員的開(kāi)發(fā)效率提升100%。
文心一言的迭代也可佐證百度AI底座的能力。在一個(gè)月內(nèi),文心一言完成4次大技術(shù)升級(jí),大模型推理成本降到原來(lái)的十分之一或者說(shuō)性能提升近10倍。
"AI大底座就是要幫助客戶從上云,進(jìn)入到用數(shù)、賦智的快車道,極大降低AI產(chǎn)業(yè)應(yīng)用的門(mén)檻,提升效率,企業(yè)只需要把精力聚焦在場(chǎng)景業(yè)務(wù)上。"百度集團(tuán)執(zhí)行副總裁沈抖說(shuō)道。
“文心千帆”的首批內(nèi)測(cè)企業(yè)涵蓋了智能辦公、旅行服務(wù)、電商直播、政務(wù)服務(wù)、金融服務(wù)五大領(lǐng)域。百度云也旨在從這五大領(lǐng)域入手,先打造出一些行業(yè)的樣板間。
時(shí)隔兩個(gè)月后的,本次文心大模型技術(shù)交流會(huì)上,我們已經(jīng)可以看到許多成果。
比如說(shuō)金融業(yè),AI已經(jīng)優(yōu)化了不少?gòu)臉I(yè)者如投研工作者的工作流。過(guò)去研究人員寫(xiě)一份投研報(bào)告,需要在數(shù)據(jù)終端查詢研報(bào),搜索引擎了解新聞資訊,再利用辦公軟件處理分析、撰寫(xiě),整個(gè)流程復(fù)雜且分散。
但升級(jí)后的投研助手產(chǎn)品可直接以對(duì)話形式,完成信息歸集、觀點(diǎn)輔助生成、觀點(diǎn)寫(xiě)作、投資決策管理全流程,讓研究員的工作重心轉(zhuǎn)移到附加值更高的研究邏輯優(yōu)化上,顯著提升投研工作效率,實(shí)現(xiàn)專家經(jīng)驗(yàn)資產(chǎn)化沉淀。
百度智能云應(yīng)用產(chǎn)品中心架構(gòu)師孫珂透露,由于百度擁有整體的科技底座,包含算力、大模型、開(kāi)發(fā)框架和少量的標(biāo)注數(shù)據(jù),在這之上,百度可以實(shí)現(xiàn)對(duì)資產(chǎn)、對(duì)財(cái)富、對(duì)營(yíng)銷、還有包括對(duì)內(nèi)控合規(guī)一系列資源的管控。在這個(gè)過(guò)程中,能夠在零售業(yè)務(wù)和對(duì)公業(yè)務(wù)上,提供各種各樣的創(chuàng)新服務(wù),讓金融機(jī)構(gòu)有對(duì)客界面更高效的提升,更集約化的框架。
另一個(gè)更容易被感知到的場(chǎng)景是旅游業(yè),一般人們選擇外出旅游時(shí),都要提前很久做攻略,包括定酒店、定機(jī)票,做路線攻略等等。
但現(xiàn)在只需要通過(guò)簡(jiǎn)單的對(duì)話界面,輸入出行城市,目的地,出行方式,旅游時(shí)間等信息,幾句話溝通就可以按要求生成一個(gè)旅游規(guī)劃,同時(shí)完成機(jī)票、酒店的預(yù)訂。
而在電商行業(yè),直播是當(dāng)前每家企業(yè)不想也不敢錯(cuò)過(guò)的風(fēng)口,但對(duì)于一些中小企業(yè)來(lái)說(shuō),隨著直播團(tuán)隊(duì)人員薪水、設(shè)備的價(jià)格水漲船高,許多商家養(yǎng)不起專業(yè)直播團(tuán)隊(duì)。
而現(xiàn)在,企業(yè)只需要把商品的信息告訴AI,讓AI自動(dòng)生成多種風(fēng)格的商品帶貨腳本,再配合數(shù)字人主播,就可以幫企業(yè)把貨給賣出去。不需要花錢(qián)雇主播、撰寫(xiě)話術(shù)、花時(shí)間培訓(xùn),有了專業(yè)AI直播加持,每個(gè)品牌都能7*24小時(shí)直播,提升電商銷售效果。
“經(jīng)過(guò)度量,它的轉(zhuǎn)化率是無(wú)人直播的兩倍,有一個(gè)人總是比沒(méi)有一個(gè)人去直播它的轉(zhuǎn)化率要更高?!睂O珂表示。
雷峰網(wǎng)進(jìn)一步了解到,已經(jīng)有超過(guò)300家產(chǎn)業(yè)里的生態(tài)伙伴,在和百度智能云探索大模型在真實(shí)場(chǎng)景里的落地,涵蓋了工業(yè)、金融、政務(wù)、運(yùn)營(yíng)商、教育等行業(yè)。
例如用友,將自身能力與文心一言相結(jié)合,形成B端企業(yè)管理軟件系統(tǒng)智能助手,服務(wù)于智能知識(shí)分析,財(cái)報(bào)分析,數(shù)據(jù)報(bào)表分析實(shí)踐等企業(yè)高頻的需求和場(chǎng)景。在電信行業(yè)國(guó)產(chǎn)中間件市場(chǎng)占有率最高的寶蘭德,也在測(cè)試中將自身的智能運(yùn)維機(jī)器人與文心一言融合,提高了運(yùn)維效率和自動(dòng)化智能化程度,可以實(shí)現(xiàn)智能化故障診斷,以及智能解決方案推薦。
百度集團(tuán)副總裁袁佛玉透露,在過(guò)去不到兩個(gè)月時(shí)間,百度智能云已經(jīng)聯(lián)合產(chǎn)業(yè)伙伴深入超過(guò)400個(gè)具體的場(chǎng)景研發(fā)測(cè)試,“在其中看到了非常有價(jià)值的測(cè)試效果,也有一些測(cè)試效果還不夠理想,但我們正在雙向的去努力,去尋找在這個(gè)方向最先落地的機(jī)會(huì)?!?/p>
大模型與產(chǎn)業(yè)相結(jié)合,所迸發(fā)的想象力遠(yuǎn)遠(yuǎn)不止于此。隨著時(shí)間推移,毫無(wú)疑問(wèn)將會(huì)有更多的企業(yè)迎接大模型,為業(yè)務(wù)帶來(lái)新的生產(chǎn)力。由此,一場(chǎng)產(chǎn)業(yè)升級(jí)的風(fēng)暴即將來(lái)臨,而百度也已經(jīng)做好準(zhǔn)備。
雷峰網(wǎng)原創(chuàng)文章,未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見(jiàn)轉(zhuǎn)載須知。