湖南法治報全媒體記者 戴志杰 梁原
近期，運用AI換臉技術合成的一系列古人“回答我”視頻火爆出圈。“換臉擬聲”屬于人工智能中的深度偽造技術，可以讓真人秒換替身臉，古人從畫像里“復活”……AI技術使用越來越廣泛，要想從用會到用好，就必須對之深度了解，且須提防技術被用歪使壞，不然我們和AI“友誼的小船說翻就翻”。
“深度偽造”知多少
AI“換臉擬聲”起初在影視、廣告等領域應用較多。如一些有“劣跡藝人”參演的影視劇作品，投資方會選擇AI換臉來減少損失、保證作品播出。
隨著AI技術發(fā)展，制作一段“換臉擬聲”的視頻已非難事。借助編輯軟件中的“一鍵換臉”功能，普通人就能實現這種好玩的特效。創(chuàng)作者綜合利用幾種AI軟件，可以讓更多創(chuàng)意落地。
本報新媒體編輯小余使用AI配音較多，他告訴記者：“借助AI工具配音速度快、易修改，整個工作流程更加簡單便利。而且，還可以模仿角色聲音，做出有創(chuàng)意的作品?！毙潞霞夹g人員在錄制一段真人視頻的基礎上，通過專業(yè)軟件合成，就能得到逼真的“數字人”出鏡視頻。幾張古人圖片，經過他們反復搗鼓幾個AI工具，就讓古人真容活靈活現秀出視頻《跨越千年與你相見，李清照出現那刻太驚艷》。
目前，AI“換臉擬聲”類軟件仍屬于半專業(yè)工具，需要一定的技術基礎進行操作。公眾使用的免費工具制作相對粗糙，逼真度不高。記者檢索發(fā)現，一些電商平臺上已有該項軟件技術和教學視頻售賣。
“換臉擬聲”屬于AI中一種學名“深度偽造”的技術。深度求索（DeepSeek）軟件解釋：深度偽造技術（Deepfake）是一種基于人工智能（尤其是深度學習）的合成媒體技術，通過替換、合成或修改圖像、視頻、音頻等內容，生成高度逼真但完全虛假的信息。其名稱來源于“深度學習”（Deep Learning）和“偽造”（Fake）的組合。
在記者的小調查中，對深度偽造技術不太了解、完全不了解的受訪者占比一半。讀者小琪聽到記者介紹深度偽造方知：“我用過換臉特效，但就是覺得好玩，根本沒意識到這屬于偽造。”
DeepSeek形容深度偽造：像一把“數字魔術刀”，能創(chuàng)造趣味和便利，但也可能成為傷人的利器。用好了是《頭號玩家》的虛擬世界，用歪了就是《黑鏡》里的黑暗劇情。
技術“防偽”有真招
深度偽造技術使用門檻的降低，正引發(fā)一系列風險問題。如“偽造”名人聲音或臉輸出虛假信息，發(fā)布虛假廣告，詐騙群眾。
深度偽造也需技術“防偽”。記者就此采訪網絡安全專家，湖南文盾信息技術有限公司董事長、方濱興院士工作站負責人任江春?！安荒芤驗槊诵兔つ肯嘈呕蛎つ哭D發(fā)，要理智分析其觀點?！比谓赫f，“國家目前正在要求AIGC生成大模型備案，并建立溯源取證手段，及時發(fā)布辟謠信息等，我們將來可以隨時通過具有公信力的官方平臺進行查詢、驗證或舉報。”
3月14日，國家網信辦、工信部、公安部、國家廣電總局聯合發(fā)布《人工智能生成合成內容標識辦法》，自2025年9月1日起施行。任江春對此進行解讀：“其核心內容是要求互聯網服務提供者要對AI生成的內容進行顯式或隱式標識，這樣就可以督促正常發(fā)布的AIGC內容有身份來源，提高監(jiān)管檢測的效率，更大程度威懾造假者。”
顯式標識是指在生成合成內容或者交互場景界面中添加的，以文字、聲音、圖形等方式呈現并可以被用戶明顯感知到的標識；隱式標識是指采取技術措施在生成合成內容文件數據中添加的，不易被用戶明顯感知到的標識。
對AI生成合成的視頻實現溯源，一定程度上能遏制不法行為。任江春還建議，建立自動巡查和舉報平臺，及時曝光違法或沒有標注的生成內容，協助公眾及時識別，讓AI技術更好地規(guī)范使用，為社會發(fā)展和人民福祉服務。
（轉02版）
法律監(jiān)管全鏈條
今年3月5日，常德市桃源縣公安局網監(jiān)大隊聯合理公港派出所查處一起虛構事實擾亂公共秩序案。違法行為人楊某為吸引流量，利用AI技術移花接木，制作發(fā)布了一段校車突發(fā)起火的虛構視頻及配文。經審查，楊某被依法行政拘留。桃源縣公安局網監(jiān)大隊大隊長鄧克勇提醒市民，涉及公共安全事件以官方通報為準，不信謠、不傳謠。
3月以來，相繼曝出虛擬院士視頻帶貨化妝品，模仿明星古天樂、林峯聲音代言賭博游戲平臺，某知名模特被人用AI換臉制作淫穢視頻等事件。在全國兩會上，一些代表委員呼吁，要規(guī)范AI“換臉擬聲”技術的不當利用，讓法律成為AI規(guī)范發(fā)展的堅實底線。
湖南芙蓉律師事務所高級董事、高級合伙人律師杜穎告訴記者，用AI技術“換臉擬聲”他人涉嫌侵害他人名譽權，可能帶來嚴重的法律后果。
“民事方面可能需要承擔停止侵害、賠禮道歉、消除影響、恢復名譽，并賠償損失等責任，還可能會面臨行政處罰，情節(jié)嚴重的可能構成誹謗罪、侮辱罪。除此之外，通過身份偽造和冒充，以非法占有為目的，還會涉嫌詐騙罪。”杜穎提醒，公眾在使用AI技術時，必須注意不得制作、傳播虛假信息或惡搞視頻，尤其是涉及他人肖像、聲音等個人特征的內容。公眾也要對個人隱私采取防護措施，避免在社交平臺公開高清人臉照片、聲音片段等生物信息。
如何判斷使用AI的行為構成侵權？杜穎介紹，主要看產生的后果，如果負面影響比較大，造成社會評價的降低，那么就屬于名譽受損，可以依法維權。
不法分子利用AI技術正發(fā)展出新型詐騙。據IT時報報道，浙江警方數據顯示，AI詐騙案件在2024年同比激增270%，單筆損失金額超百萬元的案例中，83%涉及偽造視頻。
長沙市反詐中心提醒：“在日常生活中，但凡涉及交易、轉賬等行為，一定要核實對方身份，這是避免被騙的關鍵一步?！薄澳壳癆I換臉視頻主要集中于靜態(tài)場景，如帶貨視頻或短時對話。雖然AI技術發(fā)展迅速，但‘實時動態(tài)換臉’進行詐騙的技術門檻仍極高。”對普通用戶生成的換臉視頻通常只有幾秒，畫面模糊、聲音機械，仔細觀察便能識破。
目前，我國已相繼出臺《互聯網信息服務算法推薦管理規(guī)定》《人工智能生成合成內容標識辦法》及配套國家標準《網絡安全技術人工智能生成合成內容標識方法》等，正在構建多層次的治理制度，在鼓勵和保護技術創(chuàng)新的同時，對技術風險的法律監(jiān)管趨向全鏈條發(fā)力。
AI問卷小調查
（受訪者50人）
◆您是否了解AI中的深度偽造技術？
A、非常了解 獲票 2%
B、比較了解 獲票18%
C、一般 獲票 30%
D、不太了解 獲票 46%
E、完全不了解 獲票 4%
◆您是否擔心AI工具可能被用于以下用途？（可多選）
A、生成虛假新聞 獲票28%
B、被惡搞侵害名譽 獲票23%
C、制造虛假廣告 獲票23%
D、實施詐騙犯罪 獲票26%
E、其他 獲票0%
◆您認為應該如何應對AI工具可能帶來的“深度偽裝”問題？（可多選）
A、加強技術監(jiān)管，開發(fā)AI內容檢測工具 獲票24%
B、制定相關法律法規(guī)，明確責任主體 獲票29%
C、提高公眾對AI生成內容的辨識能力 獲票22%
D、規(guī)范AI應用，制定可溯源的技術規(guī)范 獲票25%
E、其他 獲票0%
責編：劉冬晨
一審：劉冬晨
二審：伏志勇
三審：萬朝暉
來源：湖南法治報
