0
如今，新技術(shù)在全球范圍內(nèi)的蓬勃發(fā)展，不斷推動著人工智能與經(jīng)濟(jì)社會的深度融合，人們的生產(chǎn)和生活方式，已經(jīng)越來越多地被人工智能改變。但與此同時，潛藏的問題和風(fēng)險(xiǎn)也不斷被曝露出來，一個非常典型的例子，就是以視頻換臉作為主要表現(xiàn)形式的深度合成技術(shù)。采用這項(xiàng)技術(shù)制作的內(nèi)容在互聯(lián)網(wǎng)上廣泛傳播，已發(fā)展出多元化的商業(yè)應(yīng)用。如果不加以引導(dǎo)和治理，將會產(chǎn)生巨大的負(fù)面影響。
作為領(lǐng)先的第三代人工智能基礎(chǔ)設(shè)施和解決方案提供商，深度合成技術(shù)是瑞萊智慧持續(xù)關(guān)注的重點(diǎn)。3月1日，瑞萊智慧在北京舉辦了主題為“AI時代的‘面子’問題”的媒體溝通會，中國社會科學(xué)院哲學(xué)所研究員、科學(xué)技術(shù)哲學(xué)研究室主任段偉文，瑞萊智慧CEO田天，副總裁唐家渝出席了此次會議。會上，瑞萊智慧通過對《深度合成十大趨勢報(bào)告（2022）》（以下簡稱“《報(bào)告》”）的詳細(xì)介紹，以及對深度合成內(nèi)容檢測平臺DeepReal的交流展示，在分享自身對于深度合成技術(shù)不同維度的探索和思考的同時，也產(chǎn)生了很多獨(dú)到見解和前沿觀點(diǎn)。
瑞萊智慧與清華大學(xué)人工智能研究院、清華大學(xué)智媒研究中心、國家工業(yè)信息安全發(fā)展研究中心、北京市大數(shù)據(jù)中心近日聯(lián)合發(fā)布《報(bào)告》，介紹和研判深度合成技術(shù)及應(yīng)用帶來的機(jī)遇與挑戰(zhàn)，并就其發(fā)展與治理給出切實(shí)可行的建議和措施。瑞萊智慧CEO田天在溝通會上對《報(bào)告》內(nèi)容進(jìn)行了深入解讀。
瑞萊智慧CEO田天
田天認(rèn)為，技術(shù)的不斷成熟是深度合成內(nèi)容迎來爆發(fā)式增長的重要原因。研究論文的持續(xù)增加、開源技術(shù)工具和大量代表性方法的涌現(xiàn)，令深度合成內(nèi)容的效果更加逼真、制作也更加高效，尤其是生成對抗網(wǎng)絡(luò)等算法的出現(xiàn)，讓合成內(nèi)容達(dá)到了“真假難辨”的程度?！靶滦蛡卧旆椒▽映霾桓F、網(wǎng)絡(luò)傳播環(huán)境的日趨復(fù)雜，加上基于檢測算法存在漏洞缺陷等，反深偽檢測技術(shù)面臨‘強(qiáng)對抗性’，需要持續(xù)更新與迭代”。
深度合成內(nèi)容的治理是一項(xiàng)長期的工作，需要社會各方的通力協(xié)作。田天表示，瑞萊智慧希望為人工智能和深度合成技術(shù)的規(guī)范發(fā)展出力。對于深度偽造內(nèi)容，相關(guān)的檢測工具十分重要，瑞萊智慧研發(fā)的深度合成內(nèi)容檢測平臺DeepReal，將協(xié)助各界、各個機(jī)構(gòu)，讓深度合成技術(shù)健康發(fā)展。
近年來，中美兩國均出臺了人工智能發(fā)展戰(zhàn)略規(guī)劃，從國家層面整體向前推進(jìn)。無論是中國，還是美國，都有著完整的研發(fā)促進(jìn)、鼓勵創(chuàng)新的相關(guān)機(jī)制，在這些因素的驅(qū)動下，中國在人工智能領(lǐng)域，有著很大的上升空間，這也給了AI企業(yè)非常好的發(fā)展機(jī)會。在人工智能安全這個有著非常廣闊發(fā)展空間的細(xì)分領(lǐng)域，中美兩國可謂是并駕齊驅(qū)。
近年來，人工智能安全已成為國家政策層面重點(diǎn)關(guān)注的領(lǐng)域，國家相關(guān)的法律法規(guī)的不斷完善以及各方對于算法治理、隱私保護(hù)等問題的高度關(guān)注，人工智能安全已迎來關(guān)鍵窗口期?，F(xiàn)在在國內(nèi)，尚未產(chǎn)生有世界影響力的人工智能產(chǎn)品和產(chǎn)業(yè)生態(tài)，這正是瑞萊智慧努力的目標(biāo)。未來，瑞萊智慧與各界的聯(lián)系和合作會越來越緊密，共同為人工智能領(lǐng)域的健康發(fā)展貢獻(xiàn)力量。
中國社會科學(xué)院哲學(xué)所研究員、科學(xué)技術(shù)哲學(xué)研究室主任段偉文
中國社會科學(xué)院哲學(xué)所研究員、科學(xué)技術(shù)哲學(xué)研究室主任段偉文受邀出席了本次溝通會，他在演講中表示，深度合成技術(shù)涉及到認(rèn)知安全，所以我們要提升社會認(rèn)知安全意識，將它作為集體責(zé)任，提升公眾的數(shù)字素養(yǎng)，以及每個人對深度合成時代真相的認(rèn)識和鑒別力，這里面有很多需要去努力的事情。人工智能企業(yè)都非常希望政府相關(guān)部門和各界積極開展有關(guān)法律倫理、治理上的對話和相關(guān)規(guī)范的制定，以及相關(guān)最佳實(shí)踐的推廣，這其實(shí)都是為了實(shí)現(xiàn)創(chuàng)新和治理之間的動態(tài)平衡，實(shí)施敏捷、穩(wěn)健治理，同時使科技更好地服務(wù)數(shù)字化轉(zhuǎn)型、數(shù)字生活。
深度偽造技術(shù)持續(xù)進(jìn)化，網(wǎng)絡(luò)數(shù)字內(nèi)容多變、隱匿性強(qiáng)，監(jiān)管難度大，因此開展主動技術(shù)防范與檢測工作是必要的。會上，瑞萊智慧副總裁唐家渝向媒體講解和演示了深度合成內(nèi)容檢測平臺DeepReal。他表示，深度偽造技術(shù)檢測工作當(dāng)前面臨兩大難點(diǎn)：一是肉眼難以辨別，傳統(tǒng)人工內(nèi)容審核團(tuán)隊(duì)無法應(yīng)對，二是深度偽造檢測面臨“強(qiáng)對抗性”，新型偽造方法層出不窮、網(wǎng)絡(luò)傳播環(huán)境復(fù)雜、深度學(xué)習(xí)檢測算法模型存在結(jié)構(gòu)性缺陷等。
瑞萊智慧副總裁唐家渝
唐家渝介紹，在結(jié)果準(zhǔn)確度方面，DeepReal在學(xué)術(shù)數(shù)據(jù)集和ZAO等主流方式生成的網(wǎng)絡(luò)數(shù)據(jù)集中，已達(dá)到99%以上的準(zhǔn)確率，而在實(shí)際應(yīng)用中，DeepReal的檢測準(zhǔn)確率也已達(dá)到業(yè)界頂尖水平，遠(yuǎn)超F(xiàn)acebook此前舉辦的Deepfake檢測挑戰(zhàn)賽所公布的最好成績。在檢測速度方面，DeepReal可實(shí)現(xiàn)每幀畫面的檢測時間僅用時30毫秒。DeepReal平臺此前在國際安全極客大賽等多個重要賽事中屢獲大獎，無論是標(biāo)準(zhǔn)層面、實(shí)戰(zhàn)落地層面還是監(jiān)管層面，瑞萊智慧現(xiàn)已與多家單位開展多方面的合作，DeepReal將在網(wǎng)絡(luò)虛假內(nèi)容甄別、人臉資料審核、影像物證真實(shí)性檢驗(yàn)等實(shí)際應(yīng)用場景中發(fā)揮強(qiáng)大作用。
唐家渝表示，除深度合成技術(shù)內(nèi)容檢測以外，瑞萊智慧目前也正在做相關(guān)研究，探索深度合成技術(shù)的正向應(yīng)用，例如人臉替換技術(shù)，包括演員的面部替換、影視本地化配音、后期更換演員臺詞等等。例如虛擬IP的打造和運(yùn)營，這樣的虛擬資產(chǎn)，相比真人來說更加可控，也更加有想象空間。在談到深度合成內(nèi)容制作的發(fā)展趨勢時，唐家渝認(rèn)為，目前該技術(shù)集中在人臉合成范圍內(nèi)，未來一定會擴(kuò)展到人體、環(huán)境等復(fù)雜場景下的合成。與此同時，未來相關(guān)的法律法規(guī)將更加完善，合法合規(guī)的應(yīng)用邊界更加清晰，會進(jìn)一步促成深度合成相關(guān)產(chǎn)品的加速落地。
憑借在人工智能安全領(lǐng)域的深度探索與實(shí)踐，瑞萊智慧將運(yùn)用最新科技，發(fā)揮技術(shù)優(yōu)勢，與優(yōu)秀的合作伙伴攜手，為人工智能安全和企業(yè)的轉(zhuǎn)型升級樹立更多標(biāo)桿，推動智慧城市的高質(zhì)量發(fā)展，為人們帶來更加美好的生活。
雷峰網(wǎng)(公眾號：雷峰網(wǎng))
雷峰網(wǎng)版權(quán)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。
