過去幾年中，邊緣設(shè)備源源不斷地生成大量數(shù)據(jù)，傳輸至云端的成本變得高昂，越來越多的AI應(yīng)用被部署在邊緣端，以便就地處理數(shù)據(jù)。

相比云計算，邊緣計算在低延遲、高安全性上優(yōu)勢明顯，但這種越來越分散和接近用戶的數(shù)據(jù)處理方式，也帶來了新的挑戰(zhàn)。

由于終端設(shè)備的算力有限，且對功耗要求較高，因此在實際的產(chǎn)品設(shè)計和應(yīng)用開發(fā)中，如何高效利用邊緣計算設(shè)備有限的硬件資源，實現(xiàn)最優(yōu)的邊緣計算方案，是開發(fā)者們在不斷思考的問題。

近日，英特爾舉辦2024網(wǎng)絡(luò)與邊緣計算行業(yè)大會，分享了對AI技術(shù)和邊緣計算的最新洞察、未來展望及技術(shù)與產(chǎn)品的創(chuàng)新。

邊緣AI成全球趨勢，中國大模型聚焦行業(yè)應(yīng)用

隨著AI更多在邊緣端部署應(yīng)用，AI模型也將逐步從云端向邊緣端轉(zhuǎn)移。一場巨大的創(chuàng)新浪潮正在醞釀，當下正處于這一變革的關(guān)鍵時刻。

英特爾高級副總裁兼網(wǎng)絡(luò)與邊緣事業(yè)部總經(jīng)理Sachin Katti指出：“邊緣AI的應(yīng)用領(lǐng)域，已逐步從機器視覺，擴展到大語言模型、生成式AI等新興領(lǐng)域。未來英特爾也將更多關(guān)注大語言模型和生成式AI的開發(fā)與應(yīng)用?！?/p>

Sachin Katti將AI的發(fā)展可以分為三個階段：AI輔助時代（Age of AI Co-Pilots）、AI 助手時代（Age of AI Agents）、全功能AI時代（Age of AI Functions）

AI輔助時代，AI是能夠輔助我們更高效地工作；

AI助手時代，AI可以自動地執(zhí)行一些工作指令；

全功能AI時代，智能體之間將能夠相互協(xié)作。

當下，我們正處在AI輔助時代。

IDC數(shù)據(jù)顯示，中國生成式AI投資2022到2027年五年的復合年增長率達到86.2%。Gartner預測，到2026年，80%的全球企業(yè)將使用生成式AI，50%的全球邊緣部署將包含AI。

在這一大趨勢下，中美兩國邊緣AI的發(fā)展，雖然在技術(shù)上有許多相似之處，但在落地策略上存在明顯差異。

國外的大模型多用于消費類場景，如 ChatGPT 面向公眾開放，Sora 主要面向教育機構(gòu)用戶，這些模型都涉及龐大的數(shù)據(jù)訓練量和參數(shù)量。

中國的大模型更多應(yīng)用于行業(yè)領(lǐng)域，通常訓練中等規(guī)模的模型，并結(jié)合自身數(shù)據(jù)進行定制化調(diào)整，這種策略通常涉及多個模型的并行部署，以適應(yīng)特定行業(yè)的需求。

英特爾中國區(qū)網(wǎng)絡(luò)與邊緣事業(yè)部首席技術(shù)官、英特爾高級首席AI工程師張宇博士強調(diào)，“中國在AI創(chuàng)新方面發(fā)展迅速，許多AI Agent的功能已經(jīng)初見端倪。比如電信行業(yè)的AI大模型產(chǎn)品可以分析網(wǎng)絡(luò)日志文件，及時發(fā)現(xiàn)異常并通知網(wǎng)絡(luò)管理人員?！?/p>

AI與邊緣計算的融合正在重塑產(chǎn)業(yè)的發(fā)展。英特爾中國團隊正專注于利用英特爾的軟硬件技術(shù)，鼓勵本地創(chuàng)新，加速AI技術(shù)在行業(yè)中的應(yīng)用。

用本土創(chuàng)新提升新質(zhì)生產(chǎn)力

生成式AI為網(wǎng)絡(luò)和邊緣計算帶來了許多機遇，同時也在重塑著產(chǎn)品和服務(wù)模式。

英特爾致力于為企業(yè)提供的，是開放、即插即用的解決方案，以及打造開放、可擴展的系統(tǒng)架構(gòu)。

“未來合作伙伴不會單單采購芯片，而是需要一整套即插即用的系統(tǒng)解決方案?！盨achin Katti表示，英特爾的服務(wù)已經(jīng)不僅僅局限于硬件供應(yīng)，還擴展到了應(yīng)用層、軟件以及客戶服務(wù)支持等多個維度，“主要目的在于幫助客戶降低部署的復雜性，實現(xiàn)更加高效、便捷的技術(shù)應(yīng)用?！?/p>

在全球市場，英特爾堅持提供統(tǒng)一的軟件平臺，與此同時，每個市場的本地團隊，又會根據(jù)當?shù)靥囟ù怪鳖I(lǐng)域的需求，進行微調(diào)和定制。這樣既能在橫向上滿足全球市場的一致性要求，又能在縱向上針對本地市場的特殊需求提供解決方案。

在不同行業(yè)中，AI技術(shù)的應(yīng)用場景和影響各不相同，英特爾攜手眾多中國本土合作伙伴，已支持大語言模型(LLM)在教育、制造業(yè)等不同行業(yè)的落地應(yīng)用。

在教育領(lǐng)域，AI可以通過分析課堂互動生成教學報告，提高教師的效率。

十余年來，英特爾與希沃在“AI+教育”解決方案的開拓上展開緊密合作?；谟⑻貭?酷睿?Ultra處理器，希沃在本地即可完成AI教學大模型的運行，并顯著提高系統(tǒng)響應(yīng)速度和穩(wěn)定性。希沃的產(chǎn)品如今已覆蓋17萬所學校，260萬間教室，服務(wù)800萬名教師，幫助完成了8億個生成式課件的制作。

在工業(yè)領(lǐng)域，AI可以結(jié)合機器視覺和自動化技術(shù)，提升生產(chǎn)線的安全性和效率。

面向工業(yè)數(shù)字化轉(zhuǎn)型升級的迫切需求，科東軟件通過先進大語言模型實現(xiàn)任務(wù)理解及代碼生成，并依托科東智能控制器的多模態(tài)視覺語言模型，實現(xiàn)對機器人動作的精準控制，極大簡化了開發(fā)流程并提升了生產(chǎn)效率。通過在英特爾?酷睿?Ultra 處理器上部署大語言模型，還減少了對算力設(shè)備和網(wǎng)絡(luò)傳輸?shù)囊蕾?，有效降低了操作延遲，滿足工業(yè)場景對低延遲和高可靠性的需求。、

邊緣計算的特點是碎片化，不同行業(yè)和用戶對算力和性能的需求各不相同。提供豐富的產(chǎn)品組合和多樣化的解決方案，以滿足不同用戶的具體需求。

數(shù)據(jù)量的限制是邊緣調(diào)優(yōu)的一個常見挑戰(zhàn)，英特爾通過自動化手段完成數(shù)據(jù)標注和訓練，解決了數(shù)據(jù)量小的問題，并結(jié)合大規(guī)模通用數(shù)據(jù)模型進行進一步優(yōu)化。

硬件方面，在算力和能耗的平衡上，英特爾通過創(chuàng)新的冷卻技術(shù)和智能能源管理策略，實現(xiàn)了高效的功耗管理和性能優(yōu)化；其集成GPU和NPU解決方案為邊緣設(shè)備提供了AI計算能力，支持一些AI模型的本地運行，展示了邊緣AI的潛力。

打造開放、可擴展的企業(yè)級AI生態(tài)，才能“讓AI無處不在”

在不斷推動技術(shù)創(chuàng)新和解決方案升級的同時，英特爾也在全球范圍內(nèi)，構(gòu)建了一個廣泛、深入且多樣化的合作生態(tài)系統(tǒng)。

據(jù)雷峰網(wǎng)(公眾號：雷峰網(wǎng))了解，在這個合作系統(tǒng)中，合作伙伴主要分為三大類，合作方式各有不同：

針對原始設(shè)備制造商（OEM）和原始設(shè)計制造商（ODM），英特爾協(xié)助其進行硬件的設(shè)計和生產(chǎn)；

針對直接對接終端客戶的系統(tǒng)集成商，英特爾提供定制化解決方案和軟件培訓，幫助他們顯著減少開發(fā)時間和成本；

針對軟件提供商，英特爾采取直接合作的模式，幫助他們優(yōu)化軟件和應(yīng)用程序，以便在英特爾提供的多樣化平臺上高效運行。

作為擁有完整軟硬件平臺的公司，英特爾在AI領(lǐng)域擁有深厚的積淀與領(lǐng)先優(yōu)勢，提供開放、模塊化的解決方案，幫助客戶在AI時代以更低總擁有成本（TCO）實現(xiàn)更高價值。

張宇博士補充道，為了推動AI本地創(chuàng)新應(yīng)用，英特爾還花了很大精力賦能開發(fā)者，幫助他們更快更好將想法落地。

今年上半年，中國區(qū)網(wǎng)絡(luò)與邊緣事業(yè)部和英特爾中國其它事業(yè)部合作，共同組織AI創(chuàng)新應(yīng)用大賽?！俺酥?，我們還跟包括開發(fā)者、ODM、OEM、系統(tǒng)集成商等合作伙伴來共同制定今后在我們國家適用的AI標準。”張宇博士對雷峰網(wǎng)表示。

面向未來的AI轉(zhuǎn)型，英特爾正在引入端到端、可擴展的系統(tǒng)級戰(zhàn)略，通過開放的生態(tài)系統(tǒng)全速助力企業(yè)推進AI創(chuàng)新。

英特爾公司副總裁兼網(wǎng)絡(luò)與邊緣事業(yè)部中國區(qū)總經(jīng)理陳偉博士表示：“英特爾對客戶的技術(shù)支持始終與時俱進，不僅僅是技術(shù)的提供者，更是本地合作伙伴的傾聽者和同行者，從運用AI進行創(chuàng)新的‘+AI時代’，到今天以AI為主導推動創(chuàng)新的‘AI+時代’，英特爾正站技術(shù)轉(zhuǎn)型的前沿，進一步深化戰(zhàn)略，確保英特爾的技術(shù)更貼近中國用戶，更深入地推動各行業(yè)的數(shù)字化轉(zhuǎn)型。”

數(shù)年深耕，通過持續(xù)不斷的軟硬件平臺和產(chǎn)品創(chuàng)新，積極推動邊緣AI等新興領(lǐng)域的拓展，相信英特爾將與合作伙伴和客戶共同迎接一個由AI驅(qū)動、智能優(yōu)化的全新時代的到來。

雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。