「雷峰網(wǎng)(公眾號：雷峰網(wǎng))消息」9月26日，RockAI“真端側(cè)·智無界”開放日活動在上海舉行，正式推出了全新升級的Yan1.3大模型，并展示了其在無人機、機器人、PC、手機等各類終端設(shè)備上的超強模力。

相較于1月份首發(fā)的Yan1.0，Yan1.3具備了強大的多模態(tài)能力，可高效處理圖文及語音等多模態(tài)信息，并實現(xiàn)了模型在更廣泛設(shè)備端上的離線無損部署，普通電腦CPU上也能夠流暢運行。

CEO劉凡平表示：“在AGI這個終極命題下，無論是云端還是端側(cè)，都只是實現(xiàn)智能普惠及躍遷的一個載體。RockAI始終堅信，只有真正提升每一臺設(shè)備的自我學習能力，才能激發(fā)更高級別智能形態(tài)即群體智能的涌現(xiàn)?！?/p>

端側(cè)智能“全家桶”：多模加成，各顯神通

活動現(xiàn)場，RockAI團隊展示了一款部署了Yan1.3大模型的“飛龍”無人機。區(qū)別于大多數(shù)云、邊、端協(xié)同控制的無人機，飛龍的智能大腦Yan1.3直接部署于設(shè)備端，對突發(fā)狀況能做出即時判斷和處理，無需先傳回云端判定再回到設(shè)備端執(zhí)行，大大提升無人機在復雜環(huán)境中的適應性和自主性，實現(xiàn)高度的自動化水平和快速反應能力。如與某廠商合作的無人機項目，便能解決設(shè)備將高清畫面?zhèn)骰卦贫?，所產(chǎn)生的5G-A流量成本高的痛點。

在實際應用方面，部署了Yan1.3的飛龍無人機，可全面感知復雜環(huán)境并在設(shè)備端實時處理，支持各類環(huán)境下的智能巡檢，不僅高效適配電力巡檢、安全監(jiān)控、環(huán)境監(jiān)測等城市治理及工業(yè)場景；更可面向個人用戶，廣泛運用于AI拍攝、外出旅游、山地越野等日常生活情景，貼心勘探環(huán)境、規(guī)劃行程的同時，還能夠解放雙手，自動捕捉最佳角度并挑選出最佳照片。

此外，研發(fā)團隊還演示了Yan1.3在更多端側(cè)設(shè)備的廣泛應用，比如此前驚艷亮相世界人工智能大會的 “胖虎”智能機器人，能夠基于Yan1.3的多模態(tài)處理能力，在離線狀態(tài)下識別復雜環(huán)境、準確理解用戶意圖，并據(jù)此控制其機械軀體高效完成各類復雜任務(wù)，如展現(xiàn)“七步成詩”“詠春拳法”等。

又比如內(nèi)嵌在PC端的迅兔智能助手，可以在離線模式下聽懂“人話”、看懂圖片并快速搜圖，精準完成“幫我錄音并整理會議記錄”、“把所有橘貓圖片都刪掉”等模糊指令，保護用戶隱私安全的同時，真正讓每個人享受到AI帶來的便利。

RockAI認為，真正的智能是不應受限的，因此，他們始終堅定地走在非Transformer架構(gòu)、無損部署這條少有人走的路上。如今，未經(jīng)壓縮、裁剪的Yan1.3大模型在越來越多設(shè)備端展現(xiàn)出的絲滑適配和超強模力，正向行業(yè)證實RockAI技術(shù)路線的合理性，及其最終激發(fā)群體智能的充分可能。

多元化適配：打通商業(yè)化路徑

在RockAI的規(guī)劃中，群體智能的實現(xiàn)包括四個階段：創(chuàng)新型基礎(chǔ)架構(gòu)、多元化硬件生態(tài)、自適應智能進化、協(xié)同化群體智能。如果說自主架構(gòu)的Yan模型是走向群體智能的開端，那么此次發(fā)布的Yan1.3群體智能單元大模型，顯然已經(jīng)快速實現(xiàn)了在多元化硬件設(shè)備上的適配。其在端側(cè)的無損推理基于兩大核心技術(shù)創(chuàng)新，一是以底層神經(jīng)網(wǎng)絡(luò)架構(gòu)MCSD替代Transformer的Attention機制，二是基于仿生神經(jīng)元驅(qū)動的選擇算法實現(xiàn)類腦分區(qū)激活，大大減少計算復雜度及算力消耗。

眾所周知，Attention機制是Transformer架構(gòu)的核心，其加權(quán)算法決定了計算量會隨著序列長度的增加呈O(n^2 )增長，對計算的算力要求也會越來越高。而RockAI通過MCSD機制替換掉Attention，只把最有效的信息、特征往后傳，以線性的方式降低計算的復雜度，提升訓練和推理效率。

同時，RockAI借鑒了大腦分區(qū)激活的原理，由選擇神經(jīng)網(wǎng)絡(luò)自己決定處理某個任務(wù)時參與運算的神經(jīng)元，初始具有隨機性，但通過大量數(shù)據(jù)學習、訓練后會變得有跡可循。就像人類一樣，隨著一件事情做的越多，被激活的那部分神經(jīng)元就會越確定，反應也就越快?；谠撍惴▽崿F(xiàn)的模型分區(qū)激活，不僅節(jié)省了算力成本，還可以通過共享神經(jīng)元實現(xiàn)多模態(tài)的對齊。

經(jīng)過對不同硬件的研究和大量調(diào)試，目前RockAI已經(jīng)適配了英偉達、高通、聯(lián)發(fā)科、英特爾、瑞芯微等平臺，商業(yè)化進程也在不斷加速。隨著自主學習機制進入實驗室測試階段，RockAI也與芯片廠商及終端廠商達成初步合作意向，突破硬件限制，打造越來越多基于Yan架構(gòu)的智能單元，讓世界上每一臺設(shè)備擁有自己的智能。

未來，期待這些擁有不同能力、不同個性的智能單元得以協(xié)同，涌現(xiàn)更為宏大、多元的群體智能，最終實現(xiàn)個性化與群體智能的共融共生，開啟人與機器的智能新時代。

雷峰網(wǎng)特約稿件，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。