融資快報(bào)

Quantum Rise 獲 1500 萬(wàn)美元種子資金：Quantum Rise 以所謂的“咨詢 2.0”模式將 AI 部署到公司中，以自動(dòng)化工作流程、提供路線圖和量身定制的 AI 解決方案，并普遍加速業(yè)務(wù)發(fā)展。本輪由Growth Partners 投資。

Sanctuary AI 完成未公開融資：Sanctuary AI 正在構(gòu)建具有類人智能的通用機(jī)器人。他們的類人機(jī)器人 Phoenix 專注于上半身任務(wù)，表現(xiàn)出類似人類的運(yùn)動(dòng)范圍。這些機(jī)器人利用 Sanctuary 的 AI 控制系統(tǒng) Carbon，增強(qiáng)了在 24 小時(shí)內(nèi)學(xué)習(xí)和自動(dòng)執(zhí)行新任務(wù)的能力。領(lǐng)投方：BDC Capital 旗下 Thrive Venture Fund、InBC Investment Corp.

九科信息完成數(shù)千萬(wàn)元B1輪融資：九科信息孵化于招商局內(nèi)部的創(chuàng)新“RPA+AI”項(xiàng)目，相關(guān)產(chǎn)品可以無(wú)縫集成到RPA機(jī)器人中，實(shí)現(xiàn)RPA任務(wù)自由調(diào)度，為國(guó)央企提供AI智能自動(dòng)化平臺(tái)。由諾輝基金領(lǐng)投，老股東深創(chuàng)投索斯福跟投。

智有范獲A輪融資數(shù)千萬(wàn)元：智有范是一家一站式全屋智能系統(tǒng)研發(fā)服務(wù)商，專注Al+ loT領(lǐng)域，以前沿科技、打造高調(diào)性的全屋智能產(chǎn)品及服務(wù)應(yīng)用于智慧家庭，及智慧小區(qū)、智慧辦公、智慧養(yǎng)老等空間系統(tǒng)。此輪融資由主板上市公司產(chǎn)業(yè)孵化基金領(lǐng)投。

（歡迎添加微信AIyanxishe2，了解更多AIGC、融資情況，與志同道合的朋友一同暢聊時(shí)新AI產(chǎn)品）

國(guó)內(nèi)情報(bào)：

月之暗面推出 Kimi 智能助手官方瀏覽器插件：

并為網(wǎng)頁(yè)用戶帶來(lái)多項(xiàng)新功能。Kimi 插件，目前只有兩個(gè)按鈕：一個(gè)是點(diǎn)問(wèn)筆，劃選文字后就會(huì)出現(xiàn)；另一個(gè)是總結(jié)器，出現(xiàn)在網(wǎng)頁(yè)右下角，快速總結(jié)全文、答疑解惑。

月之暗面楊植麟成阿里云新代言人，二者“聯(lián)姻”，幫Kimi技術(shù)突破：

阿里云官宣兩位新“代言人”——月之暗面科技有限公司創(chuàng)始人楊植麟和智聯(lián)招聘集團(tuán)總裁張?jiān)录?，這是月之暗面首次公開與阿里云的合作情況。信息顯示，阿里云的算力和大模型服務(wù)平臺(tái)助力月之暗面提升模型推理效率，加速Kimi智能助手實(shí)現(xiàn)技術(shù)突破。智聯(lián)招聘集團(tuán)的大模型應(yīng)用也基于阿里云實(shí)現(xiàn)快速部署和上線支持。

此前 4 月份，阿里云也曾宣布過(guò)一波重量級(jí)「代言人」，包括百川智能創(chuàng)始人王小川、分眾傳媒創(chuàng)始人江南春、高途集團(tuán)創(chuàng)始人陳向東等。

書?·浦語(yǔ)2.5 InternLM2.5-7B模型宣布開源，支持處理百萬(wàn)字長(zhǎng)文：

InternLM2.5-7B 模型已開源，上海人工智能實(shí)驗(yàn)室承諾提供免費(fèi)商用授權(quán)。該模型在數(shù)學(xué)評(píng)測(cè)集 MATH 上準(zhǔn)確率達(dá)到 60%，與 GPT-4Turbo1106 版本相當(dāng)，支持高達(dá) 1M tokens 的上下文，優(yōu)化了長(zhǎng)文檔理解與智能體交互，具備搜索和整合上百個(gè)網(wǎng)頁(yè)信息的能力，通過(guò)MindSearch多智能體框架，模擬人的思維過(guò)程。

快手推出AIGC微短劇《山海奇鏡之劈波斬浪》 由可靈提供技術(shù)支持：

該劇以《山海經(jīng)》為靈感來(lái)源，通過(guò)賽博風(fēng)格復(fù)現(xiàn)了上古神話世界中的神怪異獸和奇花異草。微短劇的制作得到了快手視頻生成大模型“可靈”的深度技術(shù)支持，從山脈到海洋、從森林到天際的場(chǎng)景都呈現(xiàn)出升級(jí)后的視覺(jué)效果。

北大千問(wèn)團(tuán)隊(duì)推出數(shù)學(xué)專用版CriticGPT，“找茬”讓大模型進(jìn)步更快:

北大千問(wèn)團(tuán)隊(duì)推出了專門用于數(shù)學(xué)問(wèn)題的 CriticGPT 變體 Math-Minos。該模型通過(guò)引入故意設(shè)置的錯(cuò)誤并詳細(xì)標(biāo)注，訓(xùn)練出能夠進(jìn)行 debug 的模型，從而提升了模型在數(shù)學(xué)問(wèn)題解決方案的驗(yàn)證能力。研究團(tuán)隊(duì)采用了 GPT-4 生成的逐步自然語(yǔ)言反饋?zhàn)鳛槔碛蓸?biāo)簽，不僅指出了解決方案的正誤，還能分析出錯(cuò)誤的原因。

中國(guó)AI大模型數(shù)量占全球超1/3：

根據(jù)中國(guó)信息通信研究院發(fā)布的《全球數(shù)字經(jīng)濟(jì)白皮書》，中國(guó)在全球人工智能大模型的占比已超過(guò)1/3，達(dá)到36%，僅次于美國(guó)的44%。在全球AI企業(yè)數(shù)量上，中國(guó)以15%的占比緊隨美國(guó)之后，位列第二。同時(shí)，中國(guó)的AI獨(dú)角獸企業(yè)數(shù)量也達(dá)到了71家。

中國(guó)AI大模型論文數(shù)量全球第一，清華力壓麻省理工、斯坦福：

根據(jù)美國(guó)喬治城大學(xué)的數(shù)據(jù)分析平臺(tái) ETO 最新調(diào)查報(bào)告，2017—2022 年期間，全球發(fā)布了 125.5 萬(wàn)篇與 AI 相關(guān)的論文，其中中國(guó)發(fā)布了 24.3 萬(wàn)篇，占到了總數(shù)的 25%，排名第一。美國(guó)位列第二，發(fā)布了 17.1 萬(wàn)篇論文。ETO 只統(tǒng)計(jì)了英文技術(shù)論文，如果算上中文論文，中國(guó)發(fā)布的論文數(shù)量將會(huì)更多。中國(guó)AI論文的被引用次數(shù)領(lǐng)先美國(guó)，中國(guó)科學(xué)院排名第一、谷歌排名第二，清華大學(xué)排名第三超過(guò)了麻省理工、斯坦福、卡內(nèi)基梅隆等著名大學(xué)。

周鴻祎稱2024年是大模型場(chǎng)景之年，To C將出現(xiàn)殺手級(jí)應(yīng)用：

“大模型是風(fēng)口，不是泡沫?！敝茗櫟t表示“今年英偉達(dá)市值一直狂飆，超越了微軟和蘋果，這就是人類進(jìn)入人工智能時(shí)代的一個(gè)標(biāo)志?！敝茗櫟t稱，今年年初的時(shí)候，我說(shuō)24年會(huì)是大模型的場(chǎng)景之年，當(dāng)時(shí)很多同行不以為然，在刷各種參數(shù)，但是到了6月份，我覺(jué)得整個(gè)研究就都轉(zhuǎn)過(guò)來(lái)了?！耙?yàn)槟Ｐ筒皇钱a(chǎn)品，模型只是能力，你有了人工智能的能力，還要結(jié)合具體的需求?！?/p>

國(guó)際情報(bào)：

X 被曝將新增多項(xiàng) Grok 模型功能支持，含聊天機(jī)器人側(cè)面板：

獨(dú)立應(yīng)用程序研究者 Nima Owji 表示，X 社交平臺(tái)正在開發(fā)多項(xiàng)基于 xAI Grok 模型的功能，為 X Premium 訂閱用戶提供更豐富的使用體驗(yàn)。其中之一便是類似于其他生成式 AI 聊天機(jī)器人的 Grok 側(cè)面板，用戶可在使用 X 平臺(tái)任意功能時(shí)同 Grok 機(jī)器人交流。X 還將新增兩項(xiàng)功能：賬戶總結(jié)和高亮文本搜索。這幾項(xiàng)功能尚未向公眾開放，新功能旨在提升 X Premium 付費(fèi)訂閱的吸引力。

ChatGPT無(wú)法取代人類程序員！ IEEE 35頁(yè)論文測(cè)出困難編碼正確率僅為0.66%:

IEEE 在其期刊上發(fā)表了一項(xiàng)關(guān)于 ChatGPT 代碼生成能力評(píng)估的論文，該研究使用 LeetCode 問(wèn)題庫(kù)作為數(shù)據(jù)集，揭示了 ChatGPT 生成功能性正確代碼的能力差異很大，成功率從 0.66% 到 89% 不等，受到任務(wù)難度和編程語(yǔ)言等多種因素的影響。在對(duì)C、C++、Java、JavaScript 和 Python進(jìn)行測(cè)試后，研究人員發(fā)現(xiàn)即使在某些情況下 AI 能夠生成優(yōu)質(zhì)代碼，但也存在安全性問(wèn)題。

科幻照進(jìn)現(xiàn)實(shí)？Open-TeleVision支持遠(yuǎn)程操控機(jī)器人：

加州大學(xué)圣地亞哥分校和麻省理工學(xué)院的研究員們開發(fā)了一款開源遠(yuǎn)程操作系統(tǒng)，名為 Open-Television。該系統(tǒng)支持多種設(shè)備，能夠提供實(shí)時(shí)立體視頻流，用戶可以通過(guò) VR 頭顯隔空操控機(jī)器人。其核心理念是模擬人類雙目立體視覺(jué)和活動(dòng)頸部，提升操作的自然性和沉浸感。該系統(tǒng)采用逆運(yùn)動(dòng)學(xué)算法將 VR 頭顯的 API 映射到機(jī)器人身上，實(shí)現(xiàn)精確的動(dòng)作傳遞，基于 Web 平臺(tái)，隨時(shí)隨地可以通過(guò)瀏覽器訪問(wèn)。此外，該系統(tǒng)還解決了人形機(jī)器人和人體自由度不匹配的問(wèn)題，并通過(guò)遙操作方式采集的數(shù)據(jù)訓(xùn)練機(jī)器人自主完成任務(wù)。

項(xiàng)目地址：https://github.com/Improbable-AI/VisionProTeleop

哈佛DeepMind在世界模擬器馴養(yǎng)「賽博老鼠」：

哈佛大學(xué)與谷歌 DeepMind 人工智能實(shí)驗(yàn)室合作，開發(fā)出了一只搭載 AI 大腦的“虛擬老鼠”，能夠模擬真實(shí)嚙齒動(dòng)物的所有動(dòng)作，甚至表現(xiàn)出未經(jīng)明確訓(xùn)練的新奇行為。這項(xiàng)研究結(jié)果發(fā)表在 Nature 期刊上，標(biāo)志著虛擬神經(jīng)科學(xué)領(lǐng)域的開創(chuàng)。虛擬老鼠的大腦由人工神經(jīng)網(wǎng)絡(luò)構(gòu)成，通過(guò)在物理模擬器 MuJoCo 中的訓(xùn)練，能夠準(zhǔn)確預(yù)測(cè)真實(shí)老鼠大腦中的神經(jīng)活動(dòng)。這一技術(shù)不僅有助于理解大腦如何產(chǎn)生復(fù)雜動(dòng)作，還可能用于設(shè)計(jì)改進(jìn)的機(jī)器人控制系統(tǒng)。

單卡A100實(shí)現(xiàn)百萬(wàn)token推理，速度快10倍:

微軟和薩里大學(xué)的研究團(tuán)隊(duì)提出了 MInference 方法，旨在通過(guò)動(dòng)態(tài)稀疏注意力機(jī)制加速長(zhǎng)上下文語(yǔ)言模型的預(yù)填充階段。這種方法能夠在不修改預(yù)訓(xùn)練模型和不進(jìn)行額外微調(diào)的情況下，直接應(yīng)用于現(xiàn)有的 LLM。通過(guò)實(shí)驗(yàn)驗(yàn)證，MInference 能夠顯著降低 A100 上的預(yù)填充推理延遲，提升速度至多 10 倍，并在多項(xiàng)任務(wù)中保持或提高準(zhǔn)確性。

蘋果大模型Siri預(yù)計(jì)明年1月啟動(dòng)測(cè)試：

古爾曼最新爆料，AI加持的Siri并不會(huì)立即隨著iOS18的發(fā)布而到來(lái)，蘋果計(jì)劃于明年1月啟動(dòng)測(cè)試，并預(yù)計(jì)在iOS18.4版本中正式推出這一革新性功能，留給用戶近九個(gè)月的期待時(shí)光。

Anthropic CEO稱AI 模型訓(xùn)練成本暴漲，2027 年或達(dá) 1000 億美元：

Anthropic 首席執(zhí)行官表示，當(dāng)前 AI 模型訓(xùn)練成本高達(dá)10億美元，未來(lái)三年有可能上升到100億美元甚至1000億美元。在 AI 訓(xùn)練成本的上升趨勢(shì)中，硬件和能源消耗是兩大重要成本支出。英偉達(dá)等供應(yīng)商的 GPU 交付量將呈幾何級(jí)增長(zhǎng)，而數(shù)據(jù)中心的電力需求也將急劇增加。此外，人力資源、數(shù)據(jù)采集和運(yùn)行維護(hù)等方面也將耗費(fèi)大量成本。如果不解決這些問(wèn)題，AI 模型的訓(xùn)練成本有可能在2027年達(dá)到1000億美元。

更多國(guó)際情報(bào)：

新加坡研究團(tuán)隊(duì)制作出可食用的 3D 打印二維碼：這一技術(shù)采用了全新設(shè)計(jì)的擠出系統(tǒng)，能夠在不同食物材料之間進(jìn)行切換。

反AI圖像盜竊工具Glaze需求量劇增：該工具可以在圖像中添加難以察覺(jué)的噪點(diǎn)，以防止 AI 系統(tǒng)模仿風(fēng)格的工具。據(jù) Glaze 開發(fā)者 Ben Zhao 稱，自 Meta 宣布利用用戶數(shù)據(jù)進(jìn)行 AI 訓(xùn)練計(jì)劃后，WebGlaze 的網(wǎng)頁(yè)版本的訪問(wèn)請(qǐng)求積壓巨大。

Meta AI 將在 Android 版 WhatsApp 中增強(qiáng)圖像處理能力：這個(gè)新的測(cè)試版本將允許用戶直接向 Meta AI 發(fā)送照片，并就這些圖片提出問(wèn)題或使用文字提示來(lái)編輯圖像。

日本總務(wù)省報(bào)告，該國(guó)僅 9.1% 的個(gè)人使用生成式 AI，遠(yuǎn)低于中美英等國(guó)：數(shù)據(jù)顯示，日本個(gè)人使用生成式 AI與中國(guó)的 56.3%、美國(guó)的 46.3%、英國(guó)的 39.8% 和德國(guó)的 34.6% 存在較大差距。

Product Hunt 熱榜，智能工作流程AI助手MindPal

MindPal作為一款A(yù)I工作流程構(gòu)建工具，近期在Product Hunt平臺(tái)上榮獲當(dāng)日最佳產(chǎn)品。這款工具提供了豐富的模板和自定義選項(xiàng)，涵蓋從PESTLE分析到品牌標(biāo)語(yǔ)生成等多個(gè)領(lǐng)域，旨在幫助企業(yè)高效自動(dòng)化各種任務(wù)。用戶可以根據(jù)自身需求快速構(gòu)建AI工作流程，利用多種數(shù)據(jù)類型進(jìn)行訓(xùn)練，并將AI代理與常用工具無(wú)縫連接。

MindPal的核心優(yōu)勢(shì)在于其靈活性和效率提升。它支持多個(gè)AI代理協(xié)作完成復(fù)雜任務(wù)，允許用戶選擇最佳AI模型，甚至可以在非工作時(shí)間自動(dòng)運(yùn)行工作流程。

?https://mindpal.space/?ref=producthunt

GitHub Trending 熱榜，AI生態(tài)去中心化網(wǎng)絡(luò)GaiaNet

GaiaNet作為一個(gè)創(chuàng)新的去中心化人工智能代理網(wǎng)絡(luò)，正在重塑AI推理的未來(lái)。該平臺(tái)允許個(gè)人將閑置硬件貢獻(xiàn)為GaiaNodes，支持包括Huggingface、Llama、Gemma等在內(nèi)的2000多種大型語(yǔ)言模型，實(shí)現(xiàn)分布式AI推理。GaiaNet的核心優(yōu)勢(shì)在于其無(wú)單點(diǎn)故障、多樣化、審查抗性和強(qiáng)大的隱私保護(hù)特性。

通過(guò)GaiaNet Protocol和GaiaAPI，該平臺(tái)為開發(fā)者和用戶提供了一個(gè)開放、安全的AI生態(tài)系統(tǒng)。在教育和商業(yè)領(lǐng)域，GaiaNet展現(xiàn)出巨大潛力，如個(gè)性化AI助教和靈活的AI角色扮演。這一創(chuàng)新平臺(tái)不僅為AI應(yīng)用開辟了無(wú)限可能，還通過(guò)其獨(dú)特的網(wǎng)絡(luò)架構(gòu)和強(qiáng)大的模型支持，正在推動(dòng)AI技術(shù)向更加去中心化、民主化的方向發(fā)展。

?https://www.gaianet.ai/

開發(fā)者推薦

1.AI多功能助手Onyxium：集成創(chuàng)新技術(shù)提升工作效率

Onyxium作為一個(gè)綜合性AI工具集成平臺(tái)，為個(gè)人和企業(yè)用戶提供了從圖像識(shí)別到文本分析、語(yǔ)音識(shí)別等多項(xiàng)功能。該平臺(tái)以技術(shù)優(yōu)先、易用性和成本效益為核心，通過(guò)云服務(wù)實(shí)現(xiàn)全球覆蓋，并根據(jù)用戶行為提供個(gè)性化體驗(yàn)。Onyxium的工具設(shè)計(jì)簡(jiǎn)單易用，能夠幫助用戶進(jìn)行對(duì)象和模式識(shí)別、情感分析、關(guān)鍵詞提取等多種任務(wù)。

為滿足不同規(guī)模用戶的需求，Onyxium提供多種定價(jià)方案，包括面向初創(chuàng)企業(yè)的個(gè)人計(jì)劃和針對(duì)大型企業(yè)的商業(yè)計(jì)劃，同時(shí)還設(shè)有免費(fèi)試用選項(xiàng)。用戶反饋顯示，Onyxium在提高生產(chǎn)力和創(chuàng)造力方面表現(xiàn)突出，被認(rèn)為是一個(gè)有價(jià)值的效率工具。平臺(tái)還通過(guò)新聞通訊為用戶提供最新AI發(fā)展信息和獨(dú)家資源，并設(shè)有FAQ部分以便快速解答常見(jiàn)問(wèn)題。

?https://onyxium-ai-xi.vercel.app/?ref=producthunt

2.AI漫畫翻譯新選擇：AI Manga Translator助力多語(yǔ)言閱讀

AI Manga Translator作為一款專業(yè)的在線漫畫翻譯工具，正在為全球漫畫愛(ài)好者帶來(lái)全新的閱讀體驗(yàn)。這個(gè)平臺(tái)利用人工智能技術(shù)，包括DeepL和LLM的API，為用戶提供快速、準(zhǔn)確的多語(yǔ)種漫畫翻譯服務(wù)，同時(shí)保持原始圖像的布局和結(jié)構(gòu)。支持的語(yǔ)言范圍廣泛，從中文、英文到日語(yǔ)、韓語(yǔ)等多種語(yǔ)言，滿足不同用戶的需求。

?https://aimangatranslator.com/manga-translator/

3.AI驅(qū)動(dòng)個(gè)性化播客：PocketPod

PocketPod作為一款由Y Combinator和ElevenLabs投資的AI播客產(chǎn)品，正在為用戶帶來(lái)全新的音頻內(nèi)容體驗(yàn)。這款創(chuàng)新產(chǎn)品允許用戶選擇感興趣的主題，隨后通過(guò)AI技術(shù)自動(dòng)從互聯(lián)網(wǎng)搜索、聚合、清洗信息并生成個(gè)性化播客。PocketPod支持多種應(yīng)用場(chǎng)景，包括每日新聞和特定主題深入研究，例如關(guān)于蘋果技術(shù)的專題播客。其核心優(yōu)勢(shì)在于全面的自動(dòng)化處理，能夠?qū)崟r(shí)將最新信息轉(zhuǎn)化為可聽內(nèi)容，為用戶提供即時(shí)、個(gè)性化的音頻資訊服務(wù)。

?https://pocketpod.app/

4.Suno AI Prompt Generator：AI輔助音樂(lè)創(chuàng)作工具

Suno AI Prompt Generator是一款免費(fèi)的在線工具，專為音樂(lè)創(chuàng)作者設(shè)計(jì)。該工具允許用戶通過(guò)自定義元標(biāo)簽和多種音樂(lè)風(fēng)格來(lái)生成歌曲和歌詞，提供創(chuàng)意的AI提示以激發(fā)靈感。用戶可以探索包括搖滾、流行等在內(nèi)的多種音樂(lè)類型。

?https://sunoprompt.com/zh?ref=therundown

前沿技術(shù)

1.AI視頻創(chuàng)新：MOTIA讓視頻拓展無(wú)限可能

MOTIA (Mastering Video Outpainting Through Input-Specific Adaptation) 作為一種新型的視頻外繪制技術(shù)，正在revolutionizing視頻內(nèi)容創(chuàng)作領(lǐng)域。這項(xiàng)由擴(kuò)散模型驅(qū)動(dòng)的技術(shù)能夠智能地在原始視頻視角之外生成高質(zhì)量、連貫的內(nèi)容，為創(chuàng)作者提供了前所未有的創(chuàng)意空間。

MOTIA的核心優(yōu)勢(shì)在于其兩階段處理方法：首先通過(guò)輸入特定適應(yīng)學(xué)習(xí)源視頻模式，然后利用模式感知外繪制技術(shù)擴(kuò)展視頻邊界。這種創(chuàng)新方法不僅提高了生成質(zhì)量，還增強(qiáng)了靈活性，無(wú)需大量特定任務(wù)調(diào)整就能在多個(gè)基準(zhǔn)測(cè)試中超越現(xiàn)有最先進(jìn)的方法。MOTIA為視頻創(chuàng)作者、電影制作和虛擬現(xiàn)實(shí)等領(lǐng)域開啟了新的可能性，標(biāo)志著視頻處理技術(shù)的重大突破。

?https://be-your-outpainter.github.io

2.BeyondScene: AI突破視覺(jué)極限，超高清人物場(chǎng)景生成

BeyondScene作為一項(xiàng)突破性的AI視覺(jué)技術(shù)，正在為高分辨率人物場(chǎng)景生成開辟新天地。這個(gè)創(chuàng)新框架克服了現(xiàn)有文本到圖像擴(kuò)散模型的局限，能夠生成超過(guò)8K分辨率的精美人物場(chǎng)景，同時(shí)保持出色的文本-圖像對(duì)應(yīng)性和自然度。

該技術(shù)無(wú)需昂貴的重新訓(xùn)練，就能超越預(yù)訓(xùn)練擴(kuò)散模型的能力，為高分辨率人物場(chǎng)景創(chuàng)作開啟了新的可能性。BeyondScene在詳細(xì)文本描述的對(duì)應(yīng)性和自然度方面均優(yōu)于現(xiàn)有方法，為電影制作、虛擬現(xiàn)實(shí)和數(shù)字藝術(shù)等領(lǐng)域帶來(lái)了革命性的變革。

?https://github.com/BeyondScene/BeyondScene

3.MInference 1.0：長(zhǎng)文本LLM推理的革命性加速器

微軟公司和薩里大學(xué)的成員推出MInference 1.0作為一項(xiàng)突破性技術(shù)，正在為大型語(yǔ)言模型(LLM)的長(zhǎng)文本處理帶來(lái)顯著提升。這個(gè)創(chuàng)新框架通過(guò)動(dòng)態(tài)稀疏注意力機(jī)制，有效解決了LLM在處理長(zhǎng)序列時(shí)面臨的計(jì)算挑戰(zhàn)，尤其是在預(yù)填充階段的效率問(wèn)題。核心創(chuàng)新點(diǎn)：

-識(shí)別并利用長(zhǎng)文本注意力矩陣中的三種獨(dú)特模式：A形、垂直條紋和塊稀疏。

-離線確定每個(gè)注意力頭的最佳模式，并在推理過(guò)程中動(dòng)態(tài)構(gòu)建稀疏索引。

-通過(guò)優(yōu)化的GPU內(nèi)核執(zhí)行高效的稀疏注意力計(jì)算。

?https://hqjiang.com/minference.html

4.ax-llm/ax：智能代理構(gòu)建的多功能Typescript庫(kù)

ax-llm/ax是一個(gè)基于Stanford DSPy論文的創(chuàng)新Typescript庫(kù)，為構(gòu)建大型語(yǔ)言模型（LLMs）驅(qū)動(dòng)的智能代理提供了強(qiáng)大支持。這個(gè)多功能工具包支持多種LLMs和矢量數(shù)據(jù)庫(kù)，提供了一系列高級(jí)功能，如流式輸出驗(yàn)證、多模態(tài)DSPy支持和自動(dòng)提示調(diào)優(yōu)。ax-llm/ax簡(jiǎn)化了LLMs的集成和應(yīng)用，支持自動(dòng)生成類型安全的提示，允許構(gòu)建可調(diào)用其他代理的代理，并能處理各種格式的文檔。該庫(kù)還集成了OpenTelemetry追蹤和觀測(cè)功能，以及自動(dòng)調(diào)優(yōu)提示效率的優(yōu)化器。開發(fā)者可通過(guò)npm安裝使用，通過(guò)運(yùn)行示例快速上手，為AI應(yīng)用開發(fā)提供了一個(gè)全面而靈活的解決方案。

?https://axllm.dev/

熱議話題

AI數(shù)據(jù)中心遭"炸彈"威脅？藝術(shù)與科技的對(duì)決引發(fā)熱議

近日，一則關(guān)于"Art tools "的推文意外獲得11.7萬(wàn)點(diǎn)贊，引發(fā)網(wǎng)絡(luò)熱議。一幅諷刺漫畫將傳統(tǒng)藝術(shù)工具與AI數(shù)據(jù)中心并列，，將AI數(shù)據(jù)中心比作一個(gè)潛在的"破壞性"工具。暗示AI可能對(duì)傳統(tǒng)創(chuàng)作方式產(chǎn)生沖擊，進(jìn)一步加劇了討論。

這場(chǎng)爭(zhēng)議反映了公眾對(duì)AI技術(shù)的復(fù)雜態(tài)度。有人擔(dān)憂AI威脅就業(yè)和社會(huì)秩序，也有人認(rèn)為無(wú)需過(guò)度憂慮。討論涉及AI對(duì)藝術(shù)創(chuàng)作的影響、財(cái)富分配問(wèn)題，以及如何在科技發(fā)展與傳統(tǒng)保護(hù)間尋求平衡。這一事件凸顯了在AI快速發(fā)展的今天，社會(huì)各界需要共同探討AI與人類和諧共存的方式。這場(chǎng)爭(zhēng)議反映了公眾對(duì)AI技術(shù)的復(fù)雜態(tài)度。有人擔(dān)憂AI威脅就業(yè)和社會(huì)秩序，也有人認(rèn)為無(wú)需過(guò)度憂慮。討論涉及AI對(duì)藝術(shù)創(chuàng)作的影響、財(cái)富分配問(wèn)題，以及如何在科技發(fā)展與傳統(tǒng)保護(hù)間尋求平衡。這一事件凸顯了在AI快速發(fā)展的今天，社會(huì)各界需要共同探討AI與人類和諧共存的方式。

敬請(qǐng)期待明日的最新動(dòng)態(tài)！

AI情報(bào)局征集情報(bào)合伙人，匯集獨(dú)家價(jià)值線索！如果您可以提供有關(guān)AI最新成果&行業(yè)內(nèi)幕&獨(dú)特產(chǎn)品，請(qǐng)?zhí)砑舆\(yùn)營(yíng)微信號(hào)：AIyanxishe2備注行業(yè)崗位。

雷峰網(wǎng)(公眾號(hào)：雷峰網(wǎng))

雷峰網(wǎng)版權(quán)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見(jiàn)轉(zhuǎn)載須知。