作者 | 包永剛

編輯 | 王川

“現(xiàn)在聽到AI時代要來了，就像是聽到了‘狼來了’?！盇I開發(fā)者小王對于AI普及的論調(diào)早已習以為常。

“AI產(chǎn)品開發(fā)不僅門檻高，還很難移植到不同產(chǎn)品中，AI何時才能普及？”

 目前AI普及還有最后一塊絆腳石。

早在兩三年前，能夠給AI普及提供底層動力的端側AI芯片公司就意識到，鮮有公司能夠把自家“新鮮出爐”的AI芯片真正投入使用。

經(jīng)過幾年的努力，AI已經(jīng)變得越來越“聰明”，能夠讓攝像頭理解鏡頭捕捉到的畫面，讓麥克風理解用戶說話的內(nèi)容，讓音箱能夠和用戶進行多輪自然對話。

但AI要廣泛落地，依然是一項艱深的工作。

由于用途和形態(tài)的不同，不同AI終端對性能、功耗、精度等各項指標需求各不相同。

開發(fā)者要想讓AI形成“戰(zhàn)斗力”，需要針對各個場景做單獨優(yōu)化，這就很難快速復制。不僅讓開發(fā)者深陷開發(fā)泥潭，也讓AI在更廣闊的應用場景下陷入“有彈無槍”的窘境，難以做到真正普及。

而真正能夠推動AI在終端爆發(fā)的，是“一次開發(fā)，多處運行”的統(tǒng)一開發(fā)平臺。

統(tǒng)一開發(fā)平臺不僅能夠?qū)I開發(fā)者救出“泥潭”，還讓AI沖進了元宇宙。

AI起跑，先賽出頭「狼」

AI沒能在過去幾十年間被一遍又一遍喊AI來了，上演《狼來了》的故事，一個核心原因是技術還不夠成熟。

AI的第三次浪潮得益于深度學習技術的興起，隨著深度學習算法的演進，很快遇到了算力不足的挑戰(zhàn)。因此，想要推動AI的發(fā)展和普及，首先需要有足夠強大的AI芯片，先賽出有足夠硬實力的頭狼。

2017年前后，掀起了研發(fā)AI芯片的熱潮。

由于深度學習的算法還不夠成熟，加之應用場景的不明確，想要快速定義出一款合適的AI芯片面臨挑戰(zhàn)，特別是面向應用場景豐富的端側AI處理器。

場景和需求更加明確的智能手機擁有率先落地AI技術的先天優(yōu)勢，將AI應用于拍照，給手機用上智能語音助手，不僅能提升用戶的使用體驗，還能給手機增加新的賣點，于是，手機芯片處理器公司間燃起了一場AI競速賽。

一時間，蘇黎世聯(lián)邦理工學院（ETH）的AI-Benchmark榜單成為了各大手機處理器廠商展現(xiàn)真正實力的陣地，上演著你方唱罷我方登場的激烈角逐。

歷經(jīng)幾年的比拼，真正有實力的AI領導者留在了AI-Benchmark的顯眼位置。

查看AI-Benchmark的最新排行榜，雷峰網(wǎng)發(fā)現(xiàn)榜單排名前九的手機都搭載了高通的第一代驍龍8移動平臺。

第一代驍龍8平臺霸榜AI-Benchmark并不讓人意外，這款最新的旗艦移動平臺搭載的是高通最新的第七代AI引擎，推理速度是前代的4倍，能效提升70%。

其實，高通第六代AI引擎的AI性能已經(jīng)高達26TOPS，遠超同級別水平，在端側AI處理器中屬于頂尖水平。當然，集成高通第七代AI引擎的第一代驍龍8能夠霸榜的關鍵不僅僅是高性能。

高通公司產(chǎn)品管理副總裁 Ziad Asghar在2022世界人工智能大會上說，“在既定功耗下完成更多的AI處理對邊緣側AI運行至關重要。從高通第六代AI引擎發(fā)展到高通第七代AI引擎，兩年時間內(nèi)，我們在既定功耗下將AI能力提升了一倍以上，這正是AI在終端側發(fā)揮其能力的關鍵?！?/p>

霸榜AI-Benchmark，也是高通在AI領域耕耘十余年實力的體現(xiàn)。

經(jīng)過幾年的快速迭代，AI邊緣芯片的性能已經(jīng)足夠滿足應用需求，真正阻礙AI普及的其實是軟件。

要普及AI，先拯救泥潭中的開發(fā)者

“我們設計出的AI芯片，大部分客戶還沒有能力用起來。”這是多家AI芯片公司兩年前就遇到的困難，也是AI普及的難題所在。

沒有完整軟件棧，面對豐富多樣的應用場景，無論是AI硬件和軟件的提供者，還是AI應用的開發(fā)者，都面對著AI產(chǎn)品高門檻的難題，好不容易開發(fā)出一個應用，也很難部署到其他應用，開發(fā)者深陷泥潭。

“不同形態(tài)的AI終端產(chǎn)品，對AI性能、功耗、精度的需求大不相同?！?/strong>Ziad Asghar說，“我們的解決方案需要支持從500毫瓦的性能水平擴展到15瓦特、甚至200瓦特的性能水平。不同形態(tài)產(chǎn)品所需的深度學習架構和算子也差異巨大，例如，面向移動領域需要使用生成模型，面向計算領域需要使用Transformer模型，面向汽車ADAS需要激光雷達模型。”

曠視科技聯(lián)合創(chuàng)始人、CTO 唐文斌也在2022世界人工智能大會期間表示，“現(xiàn)階段的AI，一個核心的挑戰(zhàn)在于應用場景碎片化導致算法多樣化。算法多樣化，一方面意味著需要規(guī)?；a(chǎn)大量算法，另一方面需要考慮如何低成本生產(chǎn)每個算法?！?/p>

高通第七代AI引擎中的Hexagon處理器可以調(diào)整加速器和內(nèi)存組件，滿足不同智能手機的需求。面向云端、汽車等對性能需求更高的場景，可以拼接多個Hexagon處理器滿足瓦級性能需求。

硬件的靈活，結合完整易用的軟件，才能真正解決AI的挑戰(zhàn)。

“AI芯片軟件棧的開發(fā)有兩個核心挑戰(zhàn)?！?/strong>一位AI芯片行業(yè)資深從業(yè)者對雷峰網(wǎng)(公眾號：雷峰網(wǎng))表示，“一方面，與設計一款新的CPU不同，AI芯片大都采用獨特的指令集和架構，沒有可以借鑒的編譯器等軟件。另一方面，AI的算法還在不斷演進，軟件想要適配難度也更大?！?/p>

誰能率先推出完整統(tǒng)一的AI軟件棧，就能率先把AI開發(fā)者救出泥潭。今年6月推出的高通AI軟件棧產(chǎn)品組合，實現(xiàn)了AI里程碑的跨越。

Ziad Asghar說：“完整的高通AI軟件棧產(chǎn)品組合無疑是一項巨大突破，它將推動OEM廠商和開發(fā)者的AI開發(fā)。我們很高興借助這一全新產(chǎn)品組合進一步擴展高通公司的統(tǒng)一技術路線圖，并擴大在智能網(wǎng)聯(lián)邊緣的領先優(yōu)勢?！?/p>

高通AI軟件棧支持包括TensorFlow、PyTorch和ONNX在內(nèi)的不同AI框架與主流運行時（Runtimes），還有開發(fā)者庫與服務、系統(tǒng)軟件、工具和編譯器，能夠讓任何面向單一終端開發(fā)的AI特性輕松部署到其它終端。

比如，借助高通AI軟件棧，可以將一個原本面向手持設備的面部識別功能，遷移至汽車、PC或安防攝像頭等其他終端。

完整的AI軟件棧的構建難度十分巨大。從離硬件最近的編譯器和庫，到幫助開發(fā)者高效實現(xiàn)更多應用的Runtimes，再到上層的AI框架，每一層的軟件構建都考驗著提供商的能力以及資源的投入。

Ziad Asghar強調(diào)，“高通完整的AI軟件棧對我們的客戶而言是一個巨大的優(yōu)勢，他們可以根據(jù)實際需求進行模型開發(fā)和優(yōu)化。”

完整的AI軟件棧有兩個層面的重要價值，首先要實現(xiàn)對開發(fā)者的適用性，這就需要支持所有框架，AI runtimes，提供開發(fā)者庫、編譯器，支持所有操作系統(tǒng)；還有就是易用性。

AI軟件棧的易用也可以從兩個維度去看，一個提升性能和開發(fā)效率，另一個是“一次開發(fā)，隨處運行?！?/p>

高通AI軟件棧產(chǎn)品組合中的一系列工具套件，包括高通AI模型增效工具包（AIMET）、AI開發(fā)圖形用戶界面（GUI）、用于增強量化與優(yōu)化的模型分析器以及神經(jīng)網(wǎng)絡架構搜索（NAS）能夠幫助開發(fā)者更快開發(fā)出更能滿足實際應用需求的產(chǎn)品。

AI模型增效工具提供模型量化和壓縮等技術，能夠幫助開發(fā)者搭建體積更小、能效更高的模型。數(shù)據(jù)顯示，借助AIMET工具，將MobileNet-v2、ResNet-50和Deeplabv3模型從FP32轉(zhuǎn)化為INT8模型，精度損失不到1%，能效提升16倍。

另外，高通與谷歌合作的NAS也已經(jīng)取得成果。Ziad Asghar介紹，“在移動端的自然語言處理方面，我們在不影響精度的情況下將時延降低了13%。在汽車的物體檢測用例中，我們將模型的時延改善了13%，同時精度提升1.3%，對于特定的汽車用例這是巨大的優(yōu)勢。”

有了完整的AI軟件棧，AI開發(fā)者已經(jīng)被從泥潭中拯救出一半，真正好用的AI軟件棧還能實現(xiàn)“一次開發(fā)，隨處運行”，將開發(fā)者完全從泥潭中拯救出來，向無處不在的AI目標邁進。

高通AI軟件棧支持諸多SDK，包括面向汽車ADAS解決方案的Snapdragon Ride SDK，面向物聯(lián)網(wǎng)的高通智能多媒體SDK，以及Snapdragon Spaces XR開發(fā)者平臺，這為建立統(tǒng)一SDK提供了基礎，也為實現(xiàn)開發(fā)者“一次開發(fā)，隨處運行”的夢想打下了基礎。

 

Ziad Asghar 指出，“要實現(xiàn)任何面向單一終端開發(fā)的AI特性都可在其他終端上輕松部署，包括編譯器、調(diào)度器、硬件調(diào)試，以及模型的準備和優(yōu)化，軟件能充分利用硬件資源等都非常重要，我們需要確保這些組成部分能夠共同協(xié)作實現(xiàn)高效運行?！?/p>

AI已經(jīng)成為元宇宙中的「基建」

高通AI軟件棧能夠讓一次開發(fā)，就可以應用到手機、物聯(lián)網(wǎng)、汽車、XR、移動PC等不同形態(tài)產(chǎn)品，這足以表明，終端和邊緣AI的時代真要來了。

作為AI業(yè)界的領導者，高通不僅要在現(xiàn)實世界中實現(xiàn)AI無處不在的目標，還要讓AI在元宇宙中也發(fā)揮作用。

高通公司總裁兼CEO安蒙在2022世界人工智能大會的演講中指出，元宇宙是互聯(lián)網(wǎng)的未來，即空間互聯(lián)網(wǎng)。元宇宙需要學習和適應不斷變化的環(huán)境及用戶偏好，而AI對于塑造用戶體驗至關重要。

元宇宙將視覺體驗從第三人稱平面升級到第一人稱3D視角，讓人們獲得更豐富的信息，并且擴寬了交互的邊界，提供了觸覺等新的交互方式。

例如，元宇宙中需要具備對手部、眼球和位置的追蹤，以及情境理解和感知等功能。為了提高用戶虛擬化身的精確度，提升用戶本人和其他參與者的體驗，AI將應用于掃描信息和圖像的分析，從而打造高度逼真的虛擬化身。

另外，AI還將推動感知算法、3D渲染和重建技術的發(fā)展，以構建令人驚嘆的逼真環(huán)境。

顯然，元宇宙將產(chǎn)生海量數(shù)據(jù)，無法所有都在云端處理，這就需要AI處理拓展至邊緣側，情境豐富的數(shù)據(jù)在邊緣側產(chǎn)生，分布式智能應用應運而生。將5G與邊緣AI的完美結合，能夠支持邊緣側產(chǎn)生的情境豐富的數(shù)據(jù)近乎實時地分享給其它終端和云端，為元宇宙中的全新應用、服務、環(huán)境和體驗提供支撐。

端側AI也有顯著的優(yōu)勢，包括安全性、保護隱私，能有與邊緣和云端的AI，共同給使用者創(chuàng)造元宇宙的全新體驗。

第三次的AI浪潮下，AI硬件的完備以及完整AI軟件棧的推出，AI開發(fā)者已經(jīng)具備“一次開發(fā)，隨處運行”的基礎，在可以預見的未來，AI將迅速在XR、PC、汽車等領域快速普及，讓現(xiàn)有的產(chǎn)品擁有全新的體驗。

有觀點認為，2022年人工智能帶動行業(yè)應用綜合解決方案服務的市場規(guī)模將達到2萬億。信息技術研究和分析的公司Gartner一份報告指出，5G是推動邊緣計算發(fā)展的重要原因之一。

作為AI和5G領導者的高通，正在將AI和5G作為元宇宙的基建，為我們打造一個更具科技感的未來，創(chuàng)造無限可能。

雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。