造技術(shù)被濫用，公眾無從區(qū)分真假時(shí)，可能會(huì)對(duì)任何含有人像的圖像和視頻產(chǎn)生懷疑，這無疑會(huì)極大地沖擊媒體和政府的公信力，對(duì)社會(huì)信任體系造成重大損害，導(dǎo)致嚴(yán)重的社會(huì)信任危機(jī)。
“例如，在經(jīng)濟(jì)秩序方面，別有用心的人利用深度偽造技術(shù)，可以創(chuàng)造一家上市公司CEO宣稱公司即將破產(chǎn)的虛假視頻，我們可以想象，這個(gè)視頻對(duì)該公司股價(jià)的沖擊。”姚志偉說。
民法典對(duì)此已有專門規(guī)定
程嘯指出，深度偽造技術(shù)的濫用會(huì)對(duì)公眾的合法權(quán)益造成損害，破壞社會(huì)秩序、經(jīng)濟(jì)秩序和政治秩序，損害社會(huì)公共利益乃至危害國(guó)家安全，因此，包括我國(guó)在內(nèi)的許多國(guó)家的法律都對(duì)其作出規(guī)范。
我國(guó)在編纂民法典時(shí)，有單位提出，利用信息技術(shù)手段“深度偽造”他人的肖像、聲音，不僅侵害自然人的人格權(quán)益，嚴(yán)重的還可能造成惡劣的社會(huì)影響，危害國(guó)家安全和社會(huì)公共利益，建議法律對(duì)深度偽造技術(shù)帶來的“換臉”等問題予以回應(yīng)。
后來，民法典在制定時(shí)采納了這一意見——第一千零一十九條第一款規(guī)定，任何組織或者個(gè)人不得以丑化、污損，或者利用信息技術(shù)手段偽造等方式侵害他人的肖像權(quán)。未經(jīng)肖像權(quán)人同意，不得制作、使用、公開肖像權(quán)人的肖像，但是法律另有規(guī)定的除外。
“對(duì)于深度偽造技術(shù)可能造成的風(fēng)險(xiǎn)，民法典中的相關(guān)規(guī)定已經(jīng)可以解決民事責(zé)任問題，可以說是提前作出了一定的回應(yīng)，這顯示出我國(guó)立法機(jī)關(guān)對(duì)于類似問題的重視。但不可否認(rèn)的是，網(wǎng)絡(luò)法律制度依然有很大的空間需要完善?！睆堩w說。
張韜認(rèn)為，從2019年的換臉軟件“ZAO”到此次11家互聯(lián)網(wǎng)企業(yè)被約談，深度偽造技術(shù)的潛在問題或威脅已經(jīng)逐步顯露。盡管目前我國(guó)尚未發(fā)生因深度偽造技術(shù)而產(chǎn)生侵權(quán)糾紛案件，但不能不未雨綢繆進(jìn)行應(yīng)對(duì)。因此，立法機(jī)關(guān)應(yīng)當(dāng)完善網(wǎng)絡(luò)法律制度，對(duì)這類新問題建立一整套新的制度。
對(duì)偽造場(chǎng)景應(yīng)進(jìn)行必要限制
值得注意的是，中共中央印發(fā)的《法治社會(huì)建設(shè)實(shí)施綱要（2020－2025年）》明確提出，要“制定完善對(duì)網(wǎng)絡(luò)直播、自媒體、知識(shí)社區(qū)問答等新媒體業(yè)態(tài)和算法推薦、深度偽造等新技術(shù)應(yīng)用的規(guī)范管理辦法”。
張韜認(rèn)為，正在制定的個(gè)人信息保護(hù)法、數(shù)據(jù)安全法以及其他有關(guān)法律、行政法規(guī)在制定和修訂時(shí)，應(yīng)當(dāng)針對(duì)這類問題進(jìn)行專門規(guī)定，以回應(yīng)和解決社會(huì)熱點(diǎn)問題。
“在制定個(gè)人信息保護(hù)法和數(shù)據(jù)安全法時(shí)，對(duì)于深度偽造技術(shù)所能涉及或者應(yīng)用的場(chǎng)景應(yīng)進(jìn)一步加強(qiáng)規(guī)制?，F(xiàn)在的相關(guān)立法大多強(qiáng)調(diào)普適性的規(guī)定和適用，對(duì)很多具體、重要應(yīng)用場(chǎng)景的規(guī)定還不夠完善，因此，建議在立法的實(shí)踐應(yīng)用方面進(jìn)行加強(qiáng)。”張韜說。
張韜建議，對(duì)深度偽造技術(shù)的研發(fā)和應(yīng)用，特別是市場(chǎng)化的應(yīng)用，要進(jìn)行必要的監(jiān)管；應(yīng)用深度偽造技術(shù)的音視頻“作品”，應(yīng)當(dāng)有水印或者其他顯著的標(biāo)識(shí)，以提醒用戶注意；對(duì)深度偽造技術(shù)“換臉”仿聲所應(yīng)用的具體場(chǎng)景，應(yīng)當(dāng)進(jìn)行必要的限制。