深度合成技術(shù)“危”“機(jī)”并存 報(bào)告建言以創(chuàng)新“化危為機(jī)”

來源:中國新聞網(wǎng)

中新網(wǎng)北京3月2日電 (林依)利用深度學(xué)習(xí)、虛擬現(xiàn)實(shí)等生成合成類算法,制作圖像、音頻、視頻、虛擬場景等信息……作為人工智能領(lǐng)域新實(shí)踐的深度合成技術(shù),得到廣泛應(yīng)用,卻也被不法分子惡意使用,造成損失和威脅。

專家學(xué)者聯(lián)合撰寫的《深度合成十大趨勢報(bào)告(2022)》(下稱《報(bào)告》)于近日發(fā)布。其中研判了深度合成技術(shù)及應(yīng)用帶來的機(jī)遇與挑戰(zhàn),并就其發(fā)展與治理給出建議。

深度合成視頻發(fā)布數(shù)量激增

這份報(bào)告由清華大學(xué)人工智能研究院、北京瑞萊智慧科技有限公司、清華大學(xué)智媒研究中心、國家工業(yè)信息安全發(fā)展研究中心、北京市大數(shù)據(jù)中心聯(lián)合發(fā)布。

《報(bào)告》顯示,在國內(nèi)外主流音視頻網(wǎng)站、社交媒體平臺上,2021年新發(fā)布的深度合成視頻的數(shù)量較2017年已增長10倍以上。深度合成內(nèi)容關(guān)注度也呈指數(shù)級增長。

瑞萊智慧CEO田天解釋說,技術(shù)不斷成熟是深度合成內(nèi)容迎來爆發(fā)式增長的重要原因。研究論文的持續(xù)增加、開源技術(shù)工具和大量代表性方法的涌現(xiàn),令深度合成內(nèi)容的效果更加逼真,制作也更加高效。

清華大學(xué)新聞與傳播學(xué)院常務(wù)副院長陳昌鳳認(rèn)為,深度合成將重新定義虛擬數(shù)字化空間,從傳播社會學(xué)意義上看,一個(gè)新的人類生存場景將以深度合成技術(shù)為基石展開。

如何有效甄別深度合成內(nèi)容

近期,有不法分子利用深度合成技術(shù)偽造音頻、視頻,實(shí)施誣陷、誹謗、詐騙、勒索等違法行為。外界擔(dān)憂深度合成內(nèi)容模糊了真實(shí)和虛假的邊界,特別是隨著合成質(zhì)量的不斷提升,傳統(tǒng)基于生物特征的鑒別方式越來越難以發(fā)揮作用。

浙江大學(xué)網(wǎng)絡(luò)空間安全學(xué)院院長任奎提醒,目前對深度合成的檢測主要依賴于人工智能模型,依賴于訓(xùn)練數(shù)據(jù)的完備性,“檢測器泛用性相低、公開數(shù)據(jù)集適用性、數(shù)據(jù)敏感等,都將帶來諸多挑戰(zhàn)”。

中國工程院院士鄔賀銓認(rèn)為,治理有兩項(xiàng)要點(diǎn):第一,要持續(xù)發(fā)展技術(shù),不能“一刀切”地禁止,避免阻礙正向應(yīng)用與創(chuàng)新;第二,要從源頭上解決衍生出的安全問題,利用技術(shù)創(chuàng)新、技術(shù)對抗等方式,持續(xù)提升和迭代檢測技術(shù)的能力。

田天也有相同看法。他說,反深偽檢測技術(shù)面臨“強(qiáng)對抗性”,需要持續(xù)更新迭代。

專家吁構(gòu)建多維度治理機(jī)制

《報(bào)告》顯示,學(xué)術(shù)界和產(chǎn)業(yè)界均已對反深偽檢測投入了大量研究。在國內(nèi),清華大學(xué)、中國科學(xué)技術(shù)大學(xué)等高校在深度偽造內(nèi)容檢測方面取得顯著成果。例如,清華大學(xué)孵化團(tuán)隊(duì)瑞萊智慧推出的深度偽造內(nèi)容檢測平臺DeepReal擁有工業(yè)級的檢測性能和應(yīng)對實(shí)網(wǎng)環(huán)境對抗變化的檢測能力。

清華大學(xué)人工智能研究院基礎(chǔ)理論研究中心主任朱軍說,深度合成檢測面臨持續(xù)的攻防和博弈,未來還需融合多模態(tài)內(nèi)容的取證分析、基于數(shù)字水印的溯源技術(shù)等多方面能力,實(shí)現(xiàn)精準(zhǔn)識別。

專家同時(shí)著眼于構(gòu)建多維度治理機(jī)制。陳昌鳳說,可以從技術(shù)、倫理與法制等方面努力探索深度合成內(nèi)容治理路徑。還有學(xué)者倡導(dǎo)產(chǎn)研發(fā)展自律自治。

《報(bào)告》也稱,各方應(yīng)與時(shí)俱進(jìn)落實(shí)好新的規(guī)范要求,并在此前提下不斷追求技術(shù)突破,不斷開拓深度合成技術(shù)應(yīng)用場景,創(chuàng)立示范標(biāo)桿,形成對人工智能行業(yè)整體的帶動(dòng)效應(yīng),從而促進(jìn)新技術(shù)的持續(xù)健康發(fā)展。(完)

標(biāo)簽:

推薦

財(cái)富更多》

動(dòng)態(tài)更多》

熱點(diǎn)