"": 200,
"": "",
"": "全國人大常委會的會議室裡,《AI 換臉技術應用管理條例(草案)》放在紅木長桌上,第 12 條用黃筆標出:“未經本人同意,不得利用深度合成技術製作、傳播他人肖像內容,情節嚴重者處 500 萬元罰款,構成犯罪的追究刑事責任。”
條例的起草,源於周明遠案中令人發指的細節。
紀檢組在他的服務器裡,發現了 237 段偽造的藝人不雅視頻,其中 17 段,已被用於威脅拒絕陪酒的演員。
有位新人女演員因拒絕“酒局邀請”,被周明遠團隊用 AI 換臉技術,將其頭像嫁接到色情視頻中,發至她的家人和學校,導致她患上重度抑鬱症,退學回家。
“技術本身沒有善惡,但 AI 換臉的門檻太低了。”
林小滿作為技術專家,列席了會議,展示著手機上的換臉 APP:“現在隨便一個普通人,花 30 塊買個軟件,上傳兩張照片,5 分鐘就能做出假視頻。如果被用於犯罪,受害者根本來不及自證清白。”
她播放了一段實驗視頻:用張敏的照片合成她“發表不當言論”的畫麵,畫質清晰,連嘴角的痣都和真人一致。
討論中,有委員提出疑問:“如何界定情節嚴重?個人自娛自樂製作換臉視頻,也要處罰嗎?”
“關鍵看是否傳播和造成損害。”林小滿調出聯盟做的調研數據:“去年全國有 2.3 萬起 AI 換臉侵權投訴,87% 涉及名譽損害或敲詐勒索。有個案例,有人用 AI 換臉偽造老師體罰學生的視頻,導致老師被網暴辭職,最後查明是家長,為了給孩子轉學故意為之。”
她建議增加“安全評估”條款:“所有換臉軟件需接入國家監管平台,用戶上傳肖像時必須進行人臉識別驗證,生成的視頻需標注合成內容。”
韓端雪作為行業代表發言時,聲音帶著哽咽:“15 年前,王海濤用錄像帶威脅我;現在,壞人用 AI 換臉就能毀掉一個人。如果條例能早出台,很多女孩就不用經曆這些。”
她拿出一份簽名名單,上麵有 137 位藝人的名字,都是曾遭遇或目睹 AI 換臉威脅的從業者:“我們不求特殊保護,隻希望技術不能成為作惡的工具。”
條例的最終定稿,吸收了聯盟的多項建議:除了 500 萬元罰款的上限,還明確要求 :“深度合成服務提供者需留存操作日誌至少 2 年”:“網絡平台需對合成內容進行識別標注”,並設立 |AI 換臉侵權快速維權通道”,受害者可在 72 小時內申請平台刪除侵權內容。
”。息信假真別辨們子孩教,師老當想,學大範師了上考年今我“:息消的員演女學退位那了到收華麗韓,天那過通例條
w t . p o o在盡節章說小新最
”。惡防能也,惡作能術技|:台平大各給放開費免統係把她,%7.99 達率確準別識的頻視段 0001 對統係,”統係別識臉換 IA“:的發開新試調在正滿小林。淨乾容笑,下光陽在站孩女,片照張了附她
”。法違經已為行的你“:說濤海王對,前麵雪端韓的輕年在擋她,官全安性女的服製穿個了多裡麵畫,次這但,景場原還擬虛的案雪端韓前年 51 是:影投息全段一了放尾結,頻視讀解例條了布發台平頻視短在冉玫陳
”。了來藥,在現。病治敢人沒前以是,了病業行是不“:前最到頂被言留條有區論評,億破量放播頻視
。法立臉換 IA、改整司公家 75、訴被濤海王、網落遠明周:串一長長了列單清的”成完已“:上板白的室公辦盟聯。虹彩道一現出邊天,了停雨的外窗
”。根生度製:站一下“:行一了加麵下最在,筆起拿華麗韓