縱觀人類信息時(shí)代發(fā)展的三個(gè)階段，可以以信息收集、信息傳播和信息壓縮來劃分，三者分別對應(yīng)過去的 PC 時(shí)代、移動(dòng)互聯(lián)網(wǎng)時(shí)代、以及正在到來的智能時(shí)代。

一個(gè)客觀事實(shí)是，歷經(jīng) PC 時(shí)代對信息的收集和獲取、移動(dòng)互聯(lián)網(wǎng)時(shí)代低成本、爆發(fā)式傳播，面對海量的信息，今天對人們提出的挑戰(zhàn)是，如何在無法改變腦容積的前提下，以低損耗、低成本的方式，實(shí)現(xiàn)高質(zhì)量的信息壓縮及提取。

為此，共生矩陣 CEO 張林認(rèn)為，大模型會(huì)是目前最好的信息壓縮機(jī)。

自研一個(gè)基礎(chǔ)大模型、并進(jìn)入 C-Eval 榜單前十需要多長時(shí)間？共生矩陣給出的回答是，兩個(gè)月。從榜單前十?dāng)D進(jìn)前三的位置、又需要多長時(shí)間？這次時(shí)間縮減了一半，不到一個(gè)月。

與激烈的北上地區(qū)大模型創(chuàng)業(yè)公司戰(zhàn)局不同，共生矩陣圍爐深圳，是少數(shù)選擇在南方從事大模型自研的團(tuán)隊(duì)之一。其中，不到十人的規(guī)?！靶《馈?，近一年內(nèi)累計(jì)發(fā)表頂級論文近 20 篇，多位成員曾就職于IDEA 研究院，過去兩年間在大模型工程上有著深厚積累。

相較于年初的大模型熱浪，有投資人向 AI 科技評論表示，目前大模型賽道的第一輪融資已經(jīng)完成，行業(yè)將駛?cè)敕€(wěn)步發(fā)展階段，業(yè)界對場景化應(yīng)用、用戶碎片化等需求進(jìn)一步明確，提高了對通用大模型在工程優(yōu)化、降低成本等方面的要求。

針對這一難題，張林向 AI 科技評論指出，從商業(yè)角度看，革新性技術(shù)必然催生新的商業(yè)模式。當(dāng)前，大模型公司普遍定位為 MaaS 服務(wù)，但由于邊際成本過高，這必然會(huì)走向失敗。

而更致命的誤解是，這一思維將大模型視為獨(dú)立軟件看待，并依此把大模型商業(yè)化定位互聯(lián)網(wǎng)時(shí)代的軟件進(jìn)行售賣，張林表示，“大模型要發(fā)揮價(jià)值，必然不能以孤立系統(tǒng)存在，而是成體系的生態(tài)，大模型的商業(yè)化也必然立足于某種生態(tài)系統(tǒng)來構(gòu)建?！?/p>

當(dāng)前，大模型落地正處于蓄勢待發(fā)之勢，開源可商用的大模型越來越多，憑借公開的源代碼即可基于自身需求做訓(xùn)練和二次開發(fā)，支持微調(diào)、門檻低，開源模型也被許多企業(yè)視為最優(yōu)選。對于這種觀點(diǎn)，張林表示，開源模型的出現(xiàn)，更多是讓人們可以直觀地感受模型創(chuàng)新的階段，低成本達(dá)到教育市場的目的，但在落地環(huán)節(jié)中，開源模型并不會(huì)給自研大模型帶來實(shí)質(zhì)性的沖擊。

以下是雷峰網(wǎng)(公眾號：雷峰網(wǎng))-AI 科技評論與張林的對話，AI 科技評論作了不改變原意的編輯及整理：

GS-LLM 二次上榜

AI 科技評論：共生矩陣成立于今年 5 月份，在這個(gè)時(shí)間節(jié)點(diǎn)選擇從 IDEA 研究院出來創(chuàng)業(yè)的原因是什么？

張林：長期以來我們都在一線做技術(shù)，所以更清楚大模型優(yōu)缺點(diǎn)的所在。

每當(dāng)一個(gè)新技術(shù)來臨時(shí)，我們總要去追本求源，弄清技術(shù)從何而來。GPT 誕生帶來的正面作用是教育市場，告訴大多數(shù)人，技術(shù)的發(fā)展已經(jīng)達(dá)到了某個(gè)階段，不再是只停留于科幻電影中，而是已經(jīng)具備了很強(qiáng)的實(shí)用能力。

但從另一個(gè)角度來說，GPT 并非是未經(jīng)設(shè)想、OpenAI 的科學(xué)家突發(fā)性創(chuàng)造的技術(shù)，而是在一線科研人員高強(qiáng)度的交互環(huán)境中產(chǎn)生的，OpenAI 的成員會(huì)關(guān)注其他人的論文，大家也會(huì)學(xué)習(xí) OpenAI 的工作，技術(shù)的進(jìn)步是由一群人推動(dòng)、而非某一個(gè)具體的人拍腦子就能突然產(chǎn)生。當(dāng)然，在此之前，大家對 Transformer 以堆參數(shù)量來實(shí)現(xiàn)價(jià)值的方式還處于猜測階段，但在 2020 年 OpenAI 發(fā)布了論文后，這件事才終于被蓋棺定論。

有數(shù)據(jù)統(tǒng)計(jì)，OpenAI 過去幾年燒的錢是 1000 多個(gè)億，在短時(shí)間內(nèi)燒這么多錢，這是任何機(jī)構(gòu)都無法想象的，當(dāng)中所涉及的工程化部分，即便論文開誠布公，但對于向參與到這個(gè)級別游戲中的人，門檻極高。因此從格局上看，中國企業(yè)之所以落后一些，我認(rèn)為根本原因還是窮，而想要追趕到今天 ChatGPT 的表現(xiàn)，可能還需要一年多兩年的時(shí)間，這個(gè)學(xué)費(fèi)是省不了的，沒有所謂的彎道超車。

不要迷信、不要追求極端，只著眼于“復(fù)刻”一條路線，而是著眼于目標(biāo)、走出自己的方法論。

自 C-Eval 榜單發(fā)布以來，一般排名五位之外的時(shí)常有變動(dòng)，但前五模型表現(xiàn)的位置則是許久未有人撼動(dòng)。我們用了兩個(gè)月時(shí)間推出自研大模型 GS-LLM-Alpha 、在七月份首次上榜 C-Eval，時(shí)隔不到一個(gè)月，又發(fā)布全新的 GS-LLM-Beta 版本，再度上榜 C-Eval，并達(dá)到了榜單的第三位。

AI 科技評論：評測指標(biāo)顯示，在 C-Eval 排行榜上幾乎所有模型都要比 GS-LLM-Beta 高一個(gè)量級。跟其他模型相比，共生矩陣模型的優(yōu)勢在哪里？

張林：優(yōu)勢是個(gè)相對的概念。對規(guī)模更大的研發(fā)機(jī)構(gòu)來說，有充足的卡和人才支撐，他們的大模型可以做得很大，模型的表現(xiàn)更好，例如智譜 AI 的模型比我們的好，因?yàn)樗麄兡Ｐ透?。但現(xiàn)實(shí)情況是，GLM-130B 的部署價(jià)格一年高達(dá)三千九百多萬，這是絕大部分客戶支撐不起的價(jià)格。相較之下，我們的體量比較小，因此，模型成本上也會(huì)比其他模型小一個(gè)量級。所以我們說，優(yōu)勢不是一個(gè)絕對的概念，需要結(jié)合場景來看。

站在技術(shù)的角度來看，今天我們談大模型商業(yè)化，一個(gè)誤解是，有創(chuàng)業(yè)者會(huì)認(rèn)為自己很厲害、別人就理應(yīng)為我而付費(fèi)；但從產(chǎn)品側(cè)觀察，現(xiàn)實(shí)情況則是面對用戶沒有真實(shí)接觸過的技術(shù)，往往很難走到一個(gè)落地的階段。

正如汽車和發(fā)動(dòng)機(jī)的故事，不能因?yàn)樽约旱陌l(fā)動(dòng)機(jī)做得好、而強(qiáng)迫用戶來購買自己的車，結(jié)果用戶發(fā)現(xiàn)坐墊坐不了、方向盤也打不動(dòng)，客戶需要的是一個(gè)能開回家的車，即能在生產(chǎn)場景下發(fā)揮作用、解決問題，并控制好交付的性價(jià)比。

AI 科技評論：GS-LLM 單次訓(xùn)練成本是多少？

張林：我們將成本控制得很低。

首先，我們有一套自己的訓(xùn)練框架，可自適應(yīng)不同參數(shù)量級的模型，從 1B 到 200B 都可以兼容，提高訓(xùn)練效率。同時(shí)為了提高生成可控性，我們研發(fā)提出了可控技術(shù)，可實(shí)現(xiàn)靈活切換數(shù)據(jù)領(lǐng)域。其次在訓(xùn)練上，團(tuán)隊(duì)成員大都有過訓(xùn)練大模型的經(jīng)驗(yàn)積累，所以我們在模型訓(xùn)練的試錯(cuò)次數(shù)減少了，常規(guī)情況下 1 次訓(xùn)練就可成功?？梢钥吹?，上述種種都可一定程度上降低訓(xùn)練成本。

一個(gè)事實(shí)是，做過大模型、有能做大模型的人是稀少的，即便如大廠那么多的人力，在過去也沒有過多的人從事大模型技術(shù)的研究。而一旦定位成商業(yè)化產(chǎn)品時(shí)，還取決于是否有合適的人能夠去做這件事。目前來說，我們具備這個(gè)能力，可以將組織效率和技術(shù)能提高，并以最低的成本來完成，商業(yè)化的潛力也會(huì)更廣。

AI 科技評論：目前融資進(jìn)度怎么樣？

張林：正在談，各方面還是比較樂觀的。在選擇合作伙伴上，我們看中的一點(diǎn)是，它在整個(gè)生態(tài)鏈中能夠有一個(gè)較為穩(wěn)健的支撐點(diǎn)。當(dāng)然了，錢很重要，但共生作為一個(gè)在做商業(yè)化推進(jìn)的公司，我們很重視、也希望能夠得到整個(gè)生態(tài)的支持，例如上下游的客戶等一整套體系。

大模型革新商業(yè)模式

AI 科技評論：大模型發(fā)展速度很快，共生矩陣成立至今、三個(gè)月過去，你們的路線是否有做調(diào)整？

張林：事實(shí)上，從決定創(chuàng)業(yè)的第一天起，我們就開始思考要構(gòu)建怎樣的商業(yè)化體系、如何做客戶。

目前，部分大模型廠商的商業(yè)化構(gòu)成主要是 API 售賣，模式較為單一，這就導(dǎo)致了在高成本投入后、很難短期內(nèi)實(shí)現(xiàn)大規(guī)模的部署，并不是說我們找到了一個(gè)還不錯(cuò)的解題方法就完成了任務(wù)，最終還是要讓客戶愿意為你買單。想清楚了這點(diǎn)之后，我們很清晰地確定了“兩條腿”的路線。

第一，從技術(shù)上要把大模型的基礎(chǔ)打磨好，這是我們團(tuán)隊(duì)基本的底色所在。第二，要在第一時(shí)間跟真實(shí)的客戶接觸。雖然共生矩陣成立的時(shí)間很短，但我們的第一個(gè) To B 的客戶已經(jīng)產(chǎn)生，預(yù)期在今年十月簽約的付費(fèi)客戶會(huì)達(dá)到 3-4 家規(guī)模。要從行業(yè)的角度出發(fā)，在真實(shí)的環(huán)境中獲取反饋，而不是困在自己的閉環(huán)邏輯里。只有找到市場真正需要，從用戶的立場上去解決問題，才能持續(xù)成長下去。

AI 科技評論：在客戶方面，共生矩陣瞄準(zhǔn)的是哪一類客戶？

張林：這是個(gè)很有意思的問題，就是今天我們?nèi)绾味x行業(yè)。大模型出現(xiàn)后，以前對行業(yè)的定義在今天已不再適用，它是一個(gè)新的問題，例如服裝設(shè)計(jì)、珠寶設(shè)計(jì)、建筑設(shè)計(jì)，三者聽起來是完全不同的行業(yè)，但從我們的角度來看，其實(shí)是一樣的，即它們都有相同的“設(shè)計(jì)”標(biāo)簽，提供模型服務(wù)的設(shè)計(jì)方式相同。

從大模型的能力上看，它確實(shí)可應(yīng)用的領(lǐng)域太廣了，什么都可以嘗試。我們聚焦在特定的場景而不是完全按照行業(yè)來區(qū)分。我們現(xiàn)階段重點(diǎn)是金融或者相近的場景進(jìn)行布局，以商業(yè)閉環(huán)短的需求作為切入點(diǎn)，提供智能化 Copilot。

AI 科技評論：這是否意味著共生矩陣會(huì)在很多領(lǐng)域去做交付，那會(huì)不會(huì)牽扯到過多的人員和精力花在了交付上？

張林：這是一個(gè)很好的問題。我們是朝著做標(biāo)準(zhǔn)化產(chǎn)品的目標(biāo)出發(fā)的，并進(jìn)行輕量化交付。特別是，很多時(shí)候不同客戶在需求上表面看起來不相似的，但是得益于大模型的通用性能，找到共性是比較容易，形成標(biāo)準(zhǔn)產(chǎn)品。

我們也會(huì)主動(dòng)去尋找這個(gè)共性，包括幾個(gè)方面：第一，從源頭上控制差異化過大的場景，我希望我們交付的內(nèi)容是可復(fù)制的，也就是實(shí)現(xiàn)標(biāo)準(zhǔn)化產(chǎn)品，實(shí)現(xiàn)快速推廣；第二，從開發(fā)角度出發(fā)，專注用戶的核心需求做一個(gè)底層足夠好的模型和產(chǎn)品形態(tài)，這樣即使我所觸達(dá)的客戶類型不同，數(shù)據(jù)不同，只需要在基礎(chǔ)模型之上微調(diào)即可。

AI 科技評論：前面你提到大模型“教育”市場，從產(chǎn)品方向出發(fā)，它帶來了什么？

張林：大模型給我們帶來了很大的機(jī)會(huì)，同時(shí)也是新的挑戰(zhàn)，這是過去 AI 公司所未經(jīng)歷過的。過去，AI 解決的是一個(gè)長的生產(chǎn)業(yè)務(wù)中某個(gè)環(huán)節(jié)，大家對它的期待沒有那么高，只需要把某個(gè)小的環(huán)節(jié)做好即可。但今天，大模型對生產(chǎn)鏈條的影響是摧毀性的，以前的鏈路被全部推翻。

大模型的革新，是從底層出發(fā)慢慢向上層邏輯的轉(zhuǎn)移和打散，從而最終逐漸影響到商業(yè)方向。

AI 科技評論：如何理解大模型對商業(yè)模式的革新？

張林：首先我們要回答，行業(yè)到底是什么東西？在第一產(chǎn)業(yè)中，生產(chǎn)力和崗位的誕生是，先有生產(chǎn)力、再有這個(gè)崗位，衍生出相應(yīng)的行業(yè)。比如空中交通，先有了飛機(jī)、才會(huì)有航空，并提供航行服務(wù)。

我們經(jīng)常會(huì)面臨一些很有意思的現(xiàn)象，科技進(jìn)程通過媒介信息的介入，對一項(xiàng)新技術(shù)會(huì)有“放大”的作用。這里的“放大”是個(gè)中性詞，它可以把新技術(shù)好的一面放大，也能把壞的放大，對前沿技術(shù)而言，就產(chǎn)生了一個(gè)新的問題，即是否大部分人都具備專業(yè)能力去做判斷。對不同賽道的企業(yè)而言，要接入新技術(shù)的門檻也不相同，因此在交流過程中產(chǎn)生的 Gap 也因人而異?？梢哉f，商業(yè)化的路徑要往哪里走，我們正是探路的這批人。

舉個(gè)例子，過去 AI 技術(shù)公司和廠商的合作，假設(shè) A 公司做研發(fā)、B 公司購買服務(wù)只需要支付研發(fā)的費(fèi)用，或 A 公司提供具體的產(chǎn)品、B 公司買，交易流程就結(jié)束了。但到了大模型時(shí)代，商業(yè)模式完全被顛覆。A 公司做基礎(chǔ)模型，當(dāng)它同 B 公司發(fā)生用戶關(guān)系時(shí)，B 公司提供了場景數(shù)據(jù)，到底模型效果之所以更好，是因?yàn)?A 公司的模型好、還是 B 公司提供了優(yōu)質(zhì)數(shù)據(jù)，這在目前無法得到界定，合同又該怎么簽？這都是需要探索解決的問題。

AI 科技評論：這個(gè)問題 OpenAI 回答了么？

張林：一項(xiàng)新技術(shù)從出現(xiàn)到快速商業(yè)化，發(fā)展中的一個(gè)趨勢我們中國人將其稱為“白菜化”，大模型也是如此。OpenAI 并沒有完全回答商業(yè)化到底該如何做，To C 是否是一個(gè)成立的邏輯，目前來看似乎并不確定，因?yàn)槌杀窘挡幌聛怼?/p>

同時(shí)，留給 OpenAI 一個(gè)更大的問題是，技術(shù)該往哪里走、又回到了從 0 開始的狀態(tài)。對于自身模型能力還未達(dá)到 ChatGPT、或 GPT-3.5 的機(jī)構(gòu)來說，現(xiàn)階段大家的目標(biāo)是如何去追趕和實(shí)現(xiàn)，但對 OpenAI 而言，在砸了這么多錢且已經(jīng)走通了大模型這條路徑之后，接下來的方向是什么，則沒人知道，需要重新去探索了。

開源模型沒有落地優(yōu)勢

AI 科技評論：目前市面上開源可商用的大模型也很多，如何看待開源模型在競爭中的位置？

張林：許多人討論開源大模型對閉源模型的影響，在我看來，并沒有什么商業(yè)層面上影響。我們也希望它能出現(xiàn)，讓更多人可以直觀地去體驗(yàn)、感受最新的模型能到達(dá)什么階段，以低成本的方式實(shí)現(xiàn)教育市場的目的，但這并不會(huì)從實(shí)質(zhì)上改變什么。

今天玩大模型，我認(rèn)為最核心的因素是人。

實(shí)際上，2023 年之前，在國內(nèi)真正訓(xùn)練過大模型、有相關(guān)經(jīng)驗(yàn)積累的人或者機(jī)構(gòu)，我覺得總?cè)藬?shù)應(yīng)該不會(huì)超過 100 人。這種猜測的原因是，首先、要啟動(dòng)足夠多數(shù)量的機(jī)器，具備一定算力集群和資源的機(jī)構(gòu)在全國都是少數(shù)。同時(shí)，并不是說在 2022 年年末、或 2023 年年初建立了機(jī)構(gòu)，這批人就自然而然地就會(huì)訓(xùn)大模型了，經(jīng)驗(yàn)積累是一個(gè)非常漫長的過程，沒有這方面實(shí)操經(jīng)驗(yàn)的人很難做成。

這些“訓(xùn)”大模型的人之中，有些會(huì)用開源來訓(xùn)，這種大部分是很小的事情，僅一張卡就能完成、比如 LoRA ，而我們一上來往往是上百張、甚至更多的卡，如 LoRA 這類“訓(xùn)”大模型的方式，離實(shí)際上能夠產(chǎn)生商業(yè)價(jià)值的東西太遠(yuǎn)了。

簡單來說，首先在訓(xùn)練方面，開源模型并不會(huì)告訴你怎么訓(xùn)，即便你下載了一個(gè) LLaMA2 的代碼，但前期的數(shù)據(jù)準(zhǔn)備、配比等等，并不會(huì)有人坐在旁邊告訴你我們在 Meta 是如何訓(xùn)練的，這個(gè)是極其關(guān)鍵的技術(shù)，這是在開源中無法獲取的，只能靠經(jīng)驗(yàn)習(xí)得。更重要的是，開源只有預(yù)訓(xùn)練部分，是整個(gè)大模型體系中最不重要的環(huán)節(jié)，其他的更挑戰(zhàn)的，包括模型優(yōu)化、人類行為對齊模型壓縮，模型控制等，這些都是開源沒辦法提供的。這是一個(gè)必須“交學(xué)費(fèi)”的過程，而在企業(yè)中，今天大家都在軍備競賽、迫切的商業(yè)化，絕大部分都給不了讓你在開源中去自己摸索那么長的時(shí)間。

AI 科技評論：國內(nèi)哪些人在做的事情跟共生矩陣類似？

張林：我覺得每家都不一樣的，很難用類似來概括。如果以局外人的視角來看，那我們都是做大模型的公司。但從各自的成長路徑上而言，我們總結(jié)自己跟大部分初創(chuàng)公司的不同之處在于，首先，很少有初創(chuàng)公司一上來就提出去談客戶、直接做落地的方式，大部分會(huì)經(jīng)歷一段時(shí)間技術(shù)沉淀，但共生矩陣從一開始就挑戰(zhàn)了商業(yè)化、并且是 To B 的方式。

To B 企業(yè)的特性之一，由于其數(shù)據(jù)敏感性、所以他們很難接受 API 的方式，而開源模型更多時(shí)候也只能完成簡單的任務(wù)，最后要做應(yīng)用，一切的前提還是回到了自主研發(fā)的能力要夠，在此基礎(chǔ)上才能談長期的落地。

AI 科技評論：對創(chuàng)業(yè)公司而言，現(xiàn)階段資本市場也越來越慎重。

張林：談的多、投的少，大家會(huì)對你實(shí)際的商業(yè)營收能力越來越看重。這也是為什么過去幾個(gè)月，國內(nèi)的模型很多、但我們真正關(guān)注的很少，因?yàn)榇蟛糠謾C(jī)構(gòu)其實(shí)并不理解大模型特性、以及預(yù)判商業(yè)化的能力。大部分的信息屬于噪聲信息，不用太關(guān)心。最重要的事情，必然只有少數(shù)人能懂。

我們關(guān)注的核心應(yīng)該是真正有哪些人在做有價(jià)值的事情，以及關(guān)心我們的客戶想要什么樣的產(chǎn)品或服務(wù)。

AI 科技評論：你們所關(guān)心的核心的人是哪些人？

張林：首先是國內(nèi)幾家具備大模型研發(fā)的企業(yè)和高校，從技術(shù)角度而言，真正能具備帶來這方面改進(jìn)能力的人機(jī)構(gòu)是極少的，我們需要始終保持在最一線，知道技術(shù)在往哪個(gè)方向演進(jìn)，哪怕是一些很微小的變化，都需要留意它的可能性。

另一方面，我們關(guān)注市場的變化。我們相信，商業(yè)層面的關(guān)心直接從客戶中得到反饋更具價(jià)值。例如我們很早就排除了做 API 供應(yīng)的可能性，客戶面窄、接受程度不高，它的價(jià)格決定了能夠付費(fèi)的只會(huì)是少數(shù)高凈值、企業(yè)規(guī)模達(dá)到一定量級的大企業(yè)；而面對大部分中小客戶，他們所面臨的問題就是沒那么多錢。所以要接地氣，走到真實(shí)的場景當(dāng)中去，看看你以什么樣最低的成本能讓用戶去接受、并長期地將這件事做下去。邊際成本需要降低到一個(gè)門檻才能真正意義上實(shí)現(xiàn)大模型的商業(yè)化繁榮。

（雷峰網(wǎng)雷峰網(wǎng)）

雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。