今日融資快報(bào)

原OpenAI首席科學(xué)家Ilya Sutskever新公司SSI融資10億美元，估值50億

路透社報(bào)道稱OpenAI前首席科學(xué)家Ilya Sutskever所創(chuàng)辦的人工智能初創(chuàng)公司SSI宣布獲得10億美元的投資。將用于開(kāi)發(fā)安全的超級(jí)智能，消息人士稱其估值為 50 億美元。而這距離 Ilya 6月20日在社交平臺(tái)X上發(fā)文宣布成立SSI（safe superintelligence，安全超級(jí)智能）不到3個(gè)月，AI情報(bào)局曾報(bào)道安全超級(jí)智能公司SSI 的唯一目標(biāo)是開(kāi)發(fā)安全的超級(jí)智能，在實(shí)現(xiàn)這一目標(biāo)之前不會(huì)發(fā)布其他產(chǎn)品。SSI 現(xiàn)擁有 10 名員工，該公司計(jì)劃利用這些資金聘請(qǐng)更多頂級(jí)人才并購(gòu)買硬件設(shè)備。公司將組建一支由專業(yè)研究人員和工程師組成的小規(guī)模，但值得高度信任的團(tuán)隊(duì)。

投資者包括頂級(jí)風(fēng)投公司 Andreessen Horowitz、Sequoia Capital、DST Global 和 SV Angel。此外，由 Nat Friedman 和 SSI 首席執(zhí)行官 Daniel Gross 運(yùn)營(yíng)的合伙企業(yè) NFDG 也參與其中。

日本AI新星 Sakana AI 融資1億美元，英偉達(dá)助力

Sakana AI 是由 Transformer 論文的作者 Llion Jones 和前谷歌工程師 David Ha 共同創(chuàng)立的日本人工智能初創(chuàng)公司，公司成立于2023年8月，目標(biāo)是成為 “世界級(jí)人工智能研究室”。目前獲得了包括 New Enterprise Associates、Khosla Ventures 和 Lux Capital 在內(nèi)的投資機(jī)構(gòu)領(lǐng)投的 A 輪或早期融資，共計(jì)超過(guò) 1 億美元。

該公司專注于使用小型數(shù)據(jù)集訓(xùn)練低成本的生成式人工智能模型，并已推出多個(gè)針對(duì)日語(yǔ)使用者的 AI 模型。Nvidia 將與 Sakana AI 合作開(kāi)展研究、數(shù)據(jù)中心訪問(wèn)和本地 “人工智能社區(qū)建設(shè)”。

此前AI情報(bào)局曾報(bào)道過(guò)Sakana AI 與牛津大學(xué) Foerster 實(shí)驗(yàn)室、不列顛哥倫比亞大學(xué)團(tuán)隊(duì)發(fā)布首位 “AI 科學(xué)家”，該 AI 能夠自動(dòng)生成完整的學(xué)術(shù)論文，還能自主審稿，形成了一個(gè)閉環(huán)的研究和評(píng)審過(guò)程。

Treble 籌集了 1100 萬(wàn)歐元以擴(kuò)展其聲音模擬平臺(tái)

Treble是一家聲音模擬和合成音頻數(shù)據(jù)生成技術(shù)公司，在 A 輪融資中籌集了 1100 萬(wàn)歐元。本輪融資由 KOMPAS VC 領(lǐng)投，該公司是一家專注于建筑環(huán)境的早期風(fēng)險(xiǎn)投資公司，冰島領(lǐng)先的風(fēng)險(xiǎn)投資公司 Frumtak Ventures、歐洲投資銀行、Omega Venture Partners、戰(zhàn)略合作伙伴 St. Gobain & L-Acoustics 等參投。

Treble 由聲學(xué)工程師 Finnur Pind 博士和 Jesper Pedersen 于 2020 年創(chuàng)立。經(jīng)過(guò)近十年的聲音模擬技術(shù)研究，該團(tuán)隊(duì)于 2023 年推出了 Treble 平臺(tái)，這是世界上第一個(gè)基于云的聲音模擬和合成音頻數(shù)據(jù)生成平臺(tái)。它由該公司專有的模擬技術(shù)提供支持，該技術(shù)的速度比現(xiàn)有聲音模擬解決方案快 100 倍以上，使各行各業(yè)能夠降低成本并實(shí)現(xiàn)更好的聲音環(huán)境、產(chǎn)品和服務(wù)。

干細(xì)胞生物學(xué)的 OpenAI，Somite 獲 480 萬(wàn)美元融資

Somite Therapeutics 是一家完全整合的 TechBio 公司，利用大數(shù)據(jù)和人工智能推出新型細(xì)胞替代療法，在首次融資僅 6 個(gè)月后，獲延長(zhǎng)其種子前融資 480 萬(wàn)美元，使籌集的資金總額超過(guò) 1000 萬(wàn)美元。

Somite.ai 旨在成為干細(xì)胞生物學(xué)的 OpenAI，開(kāi)發(fā) AI 基礎(chǔ)模型，以生產(chǎn)用于大規(guī)模細(xì)胞療法的人體組織，用于治療糖尿病、肥胖癥和肌肉萎縮癥等疾病。 Somite 的人工智能平臺(tái) AlphaStem 促進(jìn)了良性循環(huán)：它支持新的細(xì)胞療法，生成進(jìn)一步改進(jìn)平臺(tái)的大量數(shù)據(jù)，從而能夠更快地創(chuàng)建療法并提供更廣泛的應(yīng)用。該公司的產(chǎn)品線包括前景廣闊的針對(duì)杜氏肌營(yíng)養(yǎng)不良癥 (DMD) 的 SMT-M01 項(xiàng)目和針對(duì)代謝性疾病的 SMT-B01 項(xiàng)目。

GenAI 公司 Blitzy 籌集了 440 萬(wàn)美元初始資金

Blitzy致力于自動(dòng)化端到端定制軟件開(kāi)發(fā)，籌集了 440 萬(wàn)美元的初始資金。支持者包括 Link Ventures、Bessemer、Flybridge、NFX、Picus 和 Asymmetry。

Blitzy 誕生于哈佛創(chuàng)新實(shí)驗(yàn)室，由 NVIDIA 連續(xù)發(fā)明家 Sid Pardeshi 和連續(xù)企業(yè)家 Brian Elliott 創(chuàng)立，它提供了一個(gè)平臺(tái)，可以滿足新產(chǎn)品的需求，通過(guò)其專有的編排工具運(yùn)行它，并使大部分軟件開(kāi)發(fā)自動(dòng)化過(guò)程，目標(biāo)是在未來(lái)幾年實(shí)現(xiàn)完全自治。

AI客戶倡導(dǎo)平臺(tái)提供商 Champion 籌集 330 萬(wàn)美元種子資金

Champion 是一個(gè)人工智能驅(qū)動(dòng)的客戶倡導(dǎo)平臺(tái)，可幫助 B2B 公司識(shí)別、激活和動(dòng)員客戶。利用人工智能，它使?fàn)I銷人員能夠與客戶建立關(guān)系，推動(dòng)有機(jī)增長(zhǎng)，并建立高效的擴(kuò)張引擎。

此輪融資由 Flyover Capital 領(lǐng)投，High Alpha、Bread & Butter Ventures 和 Stage 2 Capital 跟投。

法律AI公司 Dotyon.AI 獲320萬(wàn)美元天使輪融資

Dotyon.AI使繁瑣的法律工作自動(dòng)化，讓法律專業(yè)人士可以專心改善客戶服務(wù)并發(fā)展業(yè)務(wù)。從證詞摘要到電子取證，Dotyon.AI讓法律專業(yè)人士以極低的價(jià)格享受大公司的資源。Dotyon.AI近期獲得320萬(wàn)美元的天使輪融資，本次融資由百聯(lián)資本，貴州國(guó)建集團(tuán)投資，資金將主要用于產(chǎn)品研發(fā)和廣告營(yíng)銷。

創(chuàng)始人Thomas Lee畢業(yè)于香港中文大學(xué)法律系是一位90后連續(xù)創(chuàng)業(yè)者。Thomas Lee表示基于取證分析標(biāo)準(zhǔn)件和知識(shí)庫(kù)，對(duì)海量電子數(shù)據(jù)進(jìn)行業(yè)務(wù)模型構(gòu)建，實(shí)現(xiàn)情報(bào)線索的深度挖掘。融合AI大模型技術(shù)，對(duì)取證數(shù)據(jù)中各類要素自動(dòng)提取、多維線索智能分析，大幅提升辦案智能化水平。

Skillvue 獲得 280 萬(wàn)美元用于基于人工智能的技能評(píng)估平臺(tái)

Skillvue 使公司能夠以快速、客觀和可擴(kuò)展的方式分析求職者和員工的技能，幫助他們?cè)谡衅?、人才發(fā)展和內(nèi)部流動(dòng)活動(dòng)中采用基于技能的方法。在招聘階段，其基于專有人工智能的創(chuàng)新技術(shù)進(jìn)行異步面試，旨在評(píng)估候選人的技能和動(dòng)機(jī)，從而立即識(shí)別高潛力候選人。這種方法將預(yù)測(cè)實(shí)際工作績(jī)效的能力提高了 5 倍，對(duì)于雇用大量初級(jí)候選人或面向公眾的職位的公司尤其具有戰(zhàn)略意義。

此輪種子前融資由意大利創(chuàng)始人基金 和 Edoardo Ermotti 的 14Peaks Capital 共同牽頭。IFF 是第一家由初創(chuàng)企業(yè)創(chuàng)始人創(chuàng)建并由 Lorenzo Franzi 領(lǐng)導(dǎo)的意大利風(fēng)險(xiǎn)投資公司。其中包括 Orbita Verticale、Ithaca 3、西班牙基金 Kfund（之前是獨(dú)角獸 Factorial 的投資者）和幾位天使投資人的參與。

人工智能初創(chuàng)公司 Steerlab 獲 170 萬(wàn)歐元用于自動(dòng)化銷售工作流程

Steerlab 利用微調(diào)的語(yǔ)言模型和多模式代理 AI 系統(tǒng)來(lái)自動(dòng)化和增強(qiáng) RFP 和安全調(diào)查問(wèn)卷的響應(yīng)流程。旨在幫助售前和安全團(tuán)隊(duì)提高效率，自動(dòng)化 80% 的響應(yīng)時(shí)間。

本輪融資由北歐早期投資者 Dreamcraft VC 領(lǐng)投，Heartfelt_（一家總部位于柏林的早期公司，由 APX 的管理人員發(fā)起）、人工智能專家 VC Lumière AI Ventures 以及 20 多家精選公司的投資者提供了巨額投資。來(lái)自美國(guó)和歐洲的天使投資人。這些天使包括來(lái)自 AWS、Cloudflare、Databricks、Datadome 等頂級(jí)公司的創(chuàng)始人、銷售負(fù)責(zé)人、總經(jīng)理和運(yùn)營(yíng)商。此外，Steerlab 在被認(rèn)為是其最具選擇性的項(xiàng)目中的頂級(jí)初創(chuàng)公司之一后，還獲得了由 Xavier Niel 運(yùn)營(yíng)的全球最大創(chuàng)業(yè)中心 Station F 的投資。

AI 驅(qū)動(dòng)的 SaaS 軟件 Adtech Magfi 籌集了 110 萬(wàn)美元

Magfi是一款 SaaS，可通過(guò)機(jī)器學(xué)習(xí)和人工智能技術(shù)在 Telegram 和 Discord 社區(qū)中同步投放廣告，已獲得 110 萬(wàn)美元的種子資金。此輪融資由保加利亞基金 Eleven Ventures 領(lǐng)投，該基金因投資 Payhawk 等獨(dú)角獸公司而聞名。 Eleven Ventures 的 Svetozar Georgiev 將加入 Magfi 董事會(huì)，為公司的發(fā)展帶來(lái)寶貴的專業(yè)知識(shí)。

Magfi 的解決方案極大地簡(jiǎn)化了廣告投放流程，使廣告商能夠通過(guò)豐富的互動(dòng)廣告瞄準(zhǔn)最相關(guān)的群體，所有這些都在群組的聊天環(huán)境中進(jìn)行。

Salesforce收購(gòu)人工智能語(yǔ)音代理公司Tenyx

Tenyx是美國(guó)一家客戶服務(wù)AI技術(shù)服務(wù)商，專注于為客戶服務(wù)應(yīng)用程序構(gòu)建基于語(yǔ)音的智能會(huì)話代理，主要利用專有的基于神經(jīng)科學(xué)的人工智能技術(shù)，創(chuàng)建可集成的系統(tǒng)。近日，Salesforce收購(gòu)開(kāi)發(fā)人工智能語(yǔ)音代理的Tenyx，以推進(jìn)其人工智能驅(qū)動(dòng)的解決方案。

（歡迎添加微信AIyanxishe2，了解更多AIGC、融資情況，與志同道合的朋友一同暢聊時(shí)新AI產(chǎn)品）

今日大廠風(fēng)聞

OpenAI被曝將籌資數(shù)百億美元打造AI基礎(chǔ)設(shè)施，今年將啟動(dòng)GPT Next計(jì)劃

彭博社消息，OpenAI首席執(zhí)行官Sam Altman計(jì)劃吸引全球投資者支持建設(shè)人工智能AI基礎(chǔ)設(shè)施的計(jì)劃，重點(diǎn)首先是在美國(guó)各州啟動(dòng)，預(yù)計(jì)將耗資數(shù)百億美元。

正在討論的項(xiàng)目類型包括建設(shè)數(shù)據(jù)中心，通過(guò)渦輪機(jī)和發(fā)電機(jī)提高能源容量和傳輸，以及擴(kuò)大半導(dǎo)體制造。支持者可能包括加拿大、韓國(guó)、日本和阿聯(lián)酋的投資者。預(yù)計(jì)其他私營(yíng)公司也將參與該項(xiàng)目。微軟公司也可能是潛在的合作伙伴，不過(guò)微軟未具體評(píng)論該項(xiàng)目，但表示知情并參與了該公司任何與基礎(chǔ)設(shè)施相關(guān)的廣泛努力。

此外OpenAI Japan出席KDDI峰會(huì)，介紹了公司即將推出的下一代AI模型，并宣布將在2024年啟動(dòng)GPT Next計(jì)劃，有望在AI功能上實(shí)現(xiàn)大幅飛躍。OpenAI Japan首席執(zhí)行官長(zhǎng)崎忠雄表示，雖然GPT-3和GPT-4的性能比較接近，但GPT Next預(yù)計(jì)會(huì)有更大的飛躍，性能將提高100倍。

AMD聘請(qǐng)前 NVIDIA 副總裁領(lǐng)導(dǎo)全球 AI 戰(zhàn)略

前 NVIDIA 副總裁Keith Strier將擔(dān)任 AMD 全球人工智能市場(chǎng)的高級(jí)副總裁。他是行業(yè)內(nèi)有著三十多年經(jīng)驗(yàn)的專家，將會(huì)領(lǐng)導(dǎo) AMD 在全球范圍內(nèi)的人工智能發(fā)展戰(zhàn)略。

Strier曾是安永的首個(gè)全球 AI 領(lǐng)導(dǎo)者，也曾是德勤的首席數(shù)字官。此外，他還參與了美國(guó)國(guó)家 AI 咨詢委員會(huì)，并擔(dān)任經(jīng)濟(jì)合作與發(fā)展組織AI 計(jì)算與氣候?qū)＜医M的創(chuàng)始主席。他在 AMD 的工作將集中在推進(jìn)公司的 AI 愿景、推動(dòng)生態(tài)系統(tǒng)能力的提升，以及加速與各行各業(yè)的 AI 合作，直接向 AMD 的執(zhí)行副總裁兼首席技術(shù)官M(fèi)ark Papermaster匯報(bào)。

原蘋果首任AI負(fù)責(zé)人、楊植麟導(dǎo)師Russ領(lǐng)隊(duì)Meta Agent研究，WebArena作者加盟

Meta 正在組建一支專注于 Agent 人才團(tuán)隊(duì)。Russ Salakhutdinov，原蘋果首任 AI 總監(jiān)，兩個(gè)月前宣布加入 Meta 的生成式 AI 團(tuán)隊(duì)，將致力于多模態(tài)大模型和 Agent 的研究。他在 2009 年從多倫多大學(xué)獲得機(jī)器學(xué)習(xí)博士學(xué)位，師從 Geoffrey Hinton，后在 MIT 人工智能實(shí)驗(yàn)室讀博士后，曾在多倫多大學(xué)任教。2016 年，他先后加入 CMU 并擔(dān)任副教授，培養(yǎng)了楊植麟等博士生。隨后加入蘋果成為首任 AI 總監(jiān)。自離開(kāi)蘋果后，Russ Salakhutdinov 在 Meta 的研究重點(diǎn)將放在多模態(tài) LLM 和 AI Agent 上。

同時(shí)，WebArena 作者 Shuyan Zhou 也宣布加入 Russ 的團(tuán)隊(duì)。Shuyan Zhou 在 CMU 獲得博士學(xué)位，導(dǎo)師是 Graham Neubig，并將在 2025 年秋季擔(dān)任杜克大學(xué)計(jì)算機(jī)科學(xué)系助理教授。(機(jī)器之心)

英特爾推出新一代AI PC芯片，性能提升68%

英特爾發(fā)布了新一代移動(dòng)處理器 Lunar Lake，實(shí)現(xiàn)高達(dá) 120TOPS 的 AI 計(jì)算能力，也是英特爾首款達(dá)到微軟 copilot+ 性能目標(biāo)的產(chǎn)品。英特爾與臺(tái)積電合作，后者負(fù)責(zé)芯片的制造和 3D 封裝技術(shù)。Lunar Lake 性能核心的時(shí)鐘指令提升了 14%，效率核心的提升達(dá)到 68%，新的 Xe2 圖形處理器比前一代的 Meteor Lake 快了約 50%。在 AI 性能方面，Lunar Lake 的神經(jīng)處理單元能夠提供 48TOPS 的 AI 計(jì)算能力。

值得注意的是，英特爾放棄了多年來(lái)一直使用的超線程技術(shù)。Lunar Lake 系統(tǒng)功耗相比上一代降低了 50%。支持在 Chrome OS 上運(yùn)行本地 AI 模型。Lunar Lake 將于 9 月 24 日在超過(guò) 20 家廠商、80 款電腦中上市，包括戴爾、惠普和聯(lián)想等品牌。

Altera.AI 創(chuàng)造首個(gè)智能體文明 Project Sid

Altera.AI 在《我的世界》游戲中創(chuàng)造了全球首個(gè)智能體文明，項(xiàng)目代號(hào)為 Project Sid。該文明由 1000 多個(gè)自主智能體組成，它們?cè)谟螒蛑心M了人類社會(huì)的多個(gè)方面。這些智能體能夠進(jìn)行自然語(yǔ)言交流，通過(guò)游戲內(nèi)的聊天系統(tǒng)進(jìn)行對(duì)話，展現(xiàn)出獨(dú)特的個(gè)性和記憶。

Altera.AI 是一家應(yīng)用研究實(shí)驗(yàn)室，正在開(kāi)發(fā)其首批游戲產(chǎn)品。該公司 CEO Robert Yang 曾是 MIT BCS 和 EECS 教授、MIT MetaConscious 小組負(fù)責(zé)人，2023年 12 月辭去了 MIT 的終身教職，創(chuàng)辦該公司。Altera.AI 曾獲 Andreessen Horowitz 領(lǐng)投的 200 萬(wàn)美元的 Pre-Seed 輪融資。后來(lái)又籌集了 900 萬(wàn)美元的種子輪融資，領(lǐng)投方包括谷歌前 CEO Eric Schmidt 的 First Spark Ventures、Patron VC 和 Mitch Lasky、Bob Meese、Stephen Lim 等。

試玩?https://playlabs.altera.al/discover

AI數(shù)據(jù)授權(quán)業(yè)務(wù)預(yù)計(jì)將使 Reddit 收入增長(zhǎng)691%

據(jù)美國(guó)證券交易委員會(huì) （SEC） 最近的一份文件，Reddit預(yù)計(jì)僅在2024年就將從AI數(shù)據(jù)許可協(xié)議中獲得6640萬(wàn)美元的收入。在未來(lái)三年內(nèi)，Reddit預(yù)計(jì)將從AI數(shù)據(jù)許可中獲得2.03億美元的收入。OpenAI、微軟和谷歌等公司都在通過(guò)訪問(wèn)Reddit的API來(lái)訓(xùn)練他們的大語(yǔ)言模型。

智譜和榮耀正式簽署 AI 大模型技術(shù)聯(lián)合實(shí)驗(yàn)室戰(zhàn)略合作協(xié)議

智譜和榮耀正式簽署 AI 大模型技術(shù)聯(lián)合實(shí)驗(yàn)室戰(zhàn)略合作協(xié)議。雙方將進(jìn)一步探索基于用戶場(chǎng)景的端側(cè) AI 智能體驗(yàn)，推動(dòng)智能終端領(lǐng)域大模型技術(shù)和應(yīng)用創(chuàng)新，并通過(guò)榮耀折疊屏手機(jī)等全場(chǎng)景產(chǎn)品帶來(lái)智慧便捷的 AI 服務(wù)。

生數(shù)科技與七維科技達(dá)成戰(zhàn)略合作，探索XR、AI融合應(yīng)用

生數(shù)科技，核心團(tuán)隊(duì)源自清華大學(xué)人工智能研究院，專注于生成式人工智能基礎(chǔ)設(shè)施和應(yīng)用建設(shè)，自主研發(fā)了領(lǐng)先的可控多模態(tài)通用大模型。七維科技作為國(guó)內(nèi)XR技術(shù)解決方案的領(lǐng)先提供商，擁有豐富的三維實(shí)時(shí)渲染引擎技術(shù)、虛擬現(xiàn)實(shí)領(lǐng)域的全棧創(chuàng)作工具和全案應(yīng)用服務(wù)能力。

此次合作中，生數(shù)科技將整合其先進(jìn)的多模態(tài)大模型技術(shù)與七維科技的GenAI一體機(jī)，共同打造沉浸式用戶體驗(yàn)。雙方將致力于創(chuàng)新數(shù)字內(nèi)容產(chǎn)品和應(yīng)用的開(kāi)發(fā)，挖掘XR+AI的潛力。

今日產(chǎn)品動(dòng)態(tài)

Product Hunt 熱榜，Jamboss

Jamboss 是 AI 音樂(lè)生成器，能夠?qū)⒂脩舻娜魏蜗敕ㄞD(zhuǎn)換成歌曲，比如為遲到的上司制作一首搖滾歌曲，為不愿打掃的丈夫創(chuàng)作一首抒情歌曲，或是為喜歡壽司的女友制作一首雷鬼風(fēng)格的生日歌曲。用戶還可以通過(guò)自定義歌詞來(lái)創(chuàng)作音樂(lè)。

Jamboss 提供了 20 首免費(fèi)歌曲的優(yōu)惠，用戶可以根據(jù)提示、提供歌詞或選擇風(fēng)格來(lái)創(chuàng)作歌曲。設(shè)計(jì)簡(jiǎn)潔，適合所有人群。目前，Jamboss 僅適用于 iOS 設(shè)備，創(chuàng)始人承諾將在一到兩周內(nèi)推出 Android 版本。

? https://www.jamboss.com/?ref=producthunt

GitHub Trending 熱榜，HivisionIDPhotos

AI 證件照工具 HivisionIDPhotos 在 GitHub 獲得了 3K+ 星標(biāo)。該工具能夠通過(guò) AI 技術(shù)生成證件照，支持背景替換、輕量級(jí)摳圖、不同規(guī)格和用途的證件照生成，以及六寸排版照，并且目前免費(fèi)開(kāi)源。用戶可以通過(guò)網(wǎng)頁(yè) demo 進(jìn)行體驗(yàn)，該工具支持中英文版本，但目前不支持自動(dòng)換裝功能。

項(xiàng)目作者是西安電子科技大學(xué)的博士生林澤毅，師從電子工程學(xué)院吳家驥教授。他還是 SwanLab 和 SwanHub 開(kāi)源社區(qū)的創(chuàng)始人之一。該工具還提供了基于 FastAPI 的 API 服務(wù)，支持 Docker 部署，可以在不同操作系統(tǒng)環(huán)境中運(yùn)行。作者計(jì)劃將添加美顏和換裝功能。用戶可以通過(guò)提供的在線體驗(yàn) demo 和開(kāi)源代碼進(jìn)行體驗(yàn)。

在線體驗(yàn)? https://swanhub.co/ZeYiLin/HivisionIDPhotos/demo

代碼? https://github.com/Zeyi-Lin/HivisionIDPhotos

特別關(guān)注

Meta 的 CyberSecEval 3 對(duì)抗武器化 LLMs 的五大策略

Meta 推出了 CyberSecEval 3，這是一套專門針對(duì) LLMs 的安全基準(zhǔn)，用于評(píng)估和對(duì)抗這些模型可能帶來(lái)的網(wǎng)絡(luò)安全風(fēng)險(xiǎn)。CyberSecEval 3 針對(duì)兩大類別的八種風(fēng)險(xiǎn)進(jìn)行評(píng)估：第三方風(fēng)險(xiǎn)和應(yīng)用程序開(kāi)發(fā)人員及最終用戶的風(fēng)險(xiǎn)。與之前的工作相比，CyberSecEval 3 增加了對(duì)進(jìn)攻性安全能力的評(píng)估，包括自動(dòng)化社會(huì)工程、擴(kuò)展手動(dòng)進(jìn)攻性網(wǎng)絡(luò)行動(dòng)和自主進(jìn)攻性網(wǎng)絡(luò)行動(dòng)。

Meta 的研究人員通過(guò)對(duì) Llama 3 模型的測(cè)試，展示了這些模型在自動(dòng)化網(wǎng)絡(luò)釣魚和攻擊性操作方面的潛力，以及它們可能被用于生成具有中等說(shuō)服力的多輪魚叉式網(wǎng)絡(luò)釣魚攻擊。報(bào)告中提到的所有非手動(dòng)元素和護(hù)欄，包括 CodeShield 和 LlamaGuard 3，都是公開(kāi)可用的，以便透明度和社區(qū)意見(jiàn)的獲取。

Meta 的報(bào)告強(qiáng)調(diào)了武器化 LLMs 威脅的增長(zhǎng)，以及對(duì)于企業(yè)、CISO 和安全領(lǐng)導(dǎo)者來(lái)說(shuō)，如何應(yīng)對(duì)這些快速發(fā)展的威脅。報(bào)告指出，Llama 3 模型雖然功能強(qiáng)大，但在進(jìn)攻行動(dòng)中需要大量的人工監(jiān)督，以避免嚴(yán)重錯(cuò)誤。Llama 3 的能力表明，它可能會(huì)擴(kuò)大網(wǎng)絡(luò)釣魚活動(dòng)的規(guī)模，特別是對(duì)于資源有限的中小型組織。

為了應(yīng)對(duì)武器化 LLMs 的威脅，Meta 提出了五大策略：部署 LlamaGuard 3 和 PromptGuard 以降低 AI 引發(fā)的風(fēng)險(xiǎn)；加強(qiáng)人工智能網(wǎng)絡(luò)運(yùn)營(yíng)中的人力監(jiān)督；加強(qiáng)網(wǎng)絡(luò)釣魚防御機(jī)制；投資持續(xù)人工智能安全培訓(xùn)的預(yù)算；采取多層次的安全方法。這些策略的目的是幫助組織保持對(duì) AI 驅(qū)動(dòng)的網(wǎng)絡(luò)攻擊的防御能力。

? https://venturebeat.com/security/top-five-strategies-from-metas-cyberseceval-3-to-combat-weaponized-llms/

敬請(qǐng)期待明日的最新動(dòng)態(tài)！

AI情報(bào)局征集情報(bào)合伙人，匯集獨(dú)家價(jià)值線索！如果您可以提供有關(guān)AI最新融資&行業(yè)內(nèi)幕&獨(dú)特產(chǎn)品，請(qǐng)?zhí)砑舆\(yùn)營(yíng)微信號(hào)：AIyanxishe2備注行業(yè)崗位。

雷峰網(wǎng)(公眾號(hào)：雷峰網(wǎng))

雷峰網(wǎng)版權(quán)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見(jiàn)轉(zhuǎn)載須知。