上傳一張照片，就可以把歌手換成自己﹔一鍵制作，就可以變成視頻中的經典角色……一段時間以來，“AI（人工智能）換臉”技術被廣泛應用於短視頻的二次創作，給社會公眾帶來了新鮮體驗。不少網友感嘆，“AI換臉”生成的視頻，惟妙惟肖，很有意思。但也有網友認為“AI換臉”技術存在不小的安全隱患，應當加強監管。

　　近日，河北石家庄一位律師在來信中反映，有的地方企業注冊需要人臉識別，易被人利用“AI換臉”技術冒名注冊，一旦發生這樣的情況，需要花費大量的時間精力去維權，“建議提升人臉識別准確性的同時，增加多種驗証方式，同時仔細審查身份証等信息。”

　　近年來，有不法分子為了牟利，利用“AI換臉”技術冒充熟人實施詐騙或者盜取個人信息等，侵害群眾權益。據內蒙古包頭警方通報，某公司法人代表郭先生10分鐘內被騙430萬元，犯罪分子的詐騙手法就是通過“AI換臉”和擬聲技術佯裝熟人，盡管郭先生通過視頻聊天“核實”身份，但其“好友”卻是犯罪分子用“AI換臉”技術假冒的。

　　此外，“AI換臉”技術還可能侵害公民的個人信息安全甚至公共信息安全。浙江杭州蕭山區檢察院曾對一起利用“AI換臉”技術侵害公民個人信息案向杭州互聯網法院提起民事公益訴訟。虞某某從互聯網公共空間非法獲取眾多人臉信息，利用“AI換臉”等深度合成技術非法處理、制作視頻后，在社交軟件上傳播並獲利，甚至還提供換臉視頻定制服務，使不特定群體成為潛在的被侵害對象。最終，杭州互聯網法院認定虞某某侵害公共信息安全，還應承擔相應的民事侵權責任。

　　“AI換臉”技術是把雙刃劍。“在為群眾生活提供便利的同時，也將人們從真實場景中抽離出來，打破了‘人臉即真實’的傳統認知和社會共識，造成視覺效果失真，生物識別信息的真實性被一定程度消解，存在信息安全和人身權利被侵害的風險。”中國社會科學院法學研究所網絡與信息法研究室副主任、中國法學會網絡與信息法學研究會常務副秘書長周輝說。

　　“從司法實踐來看，目前已有不少因‘AI換臉’生成短視頻侵犯知識產權或是人格權的案件進入到訴訟程序。”北京互聯網法院綜合審判一庭副庭長朱閣介紹，例如相聲、影視劇等都屬於著作權法保護的作品，短視頻平台用戶用“AI換臉”技術將相聲、影視劇等換臉上傳，可能面臨侵犯著作權的法律風險。

　　我國民法典將人格權獨立成編，規定任何組織或者個人不得以丑化、污損，或者利用信息技術手段偽造等方式侵害他人的肖像權。“短視頻平台未征得當事人同意，提供他人形象模板讓用戶使用‘AI換臉’技術制作圖片或視頻並發布，平台和用戶都面臨侵犯他人肖像權的法律風險。”朱閣提示，即使用戶基於對平台的信賴或者已經付費，也可能構成侵權。

　　根據相關規定，提供和使用生成式人工智能服務，應當尊重他人合法權益，不得危害他人身心健康，不得侵害他人肖像權、名譽權、榮譽權、隱私權和個人信息權益。“‘AI換臉’等新技術本身是中性的，但應規范使用。”周輝表示，短視頻平台等深度合成服務提供者在投入使用相關應用時，應充分考慮法律風險和市場風險，履行法律規定的顯著標識義務，向公眾提示深度合成后果，促使技術健康合規發展。

　　“社會公眾既要增強個人信息特別是人臉等生物特征等信息的保護意識，同時使用新技術也要尊重他人的知識產權和人格權，盡到審慎的注意義務，避免陷入不必要的訴訟糾紛。”朱閣提醒。

　　《 人民日報 》（ 2023年12月04日 07 版）

分享讓更多人看到