他“復制”了女兒，她被“偷”了臉

2024-03-01 12:49:28 未知

久未露面的57歲著名音樂人包小柏，這兩天再次進入大眾視野已是一頭長白發。距離他上一次成為話題人物已過去14年。彼時，他為《快樂女聲》擔任評委，點評辛辣、意氣風發。

這次，他用AI技術在數字世界里“復活”了去世的女兒，“她”不僅可以即時回復對話，而且還在媽媽生日時唱了生日快樂歌。

同樣是最近，另一群中老年網友卻被AI的深度偽造傷了心。他們發現自己真心實意追了一陣的葉琳娜、娜塔莎、April安娜、艾莉兒……通通不存在。這些熱愛中國文化，會說一口流利中文的俄羅斯美女博主，都是有人“偷”了一位烏克蘭女孩的臉，批量生產的AI換臉數字人。

技術，再次展露出了“雙刃劍”的特性。

“復活”親人的不止是包小柏

2021年，包小柏22歲的女兒因病去世。在此前臺媒的一期節目里，他首次透露自從女兒去世后，再也沒有理發的原因：頭發有一段曾經天天觸碰女兒的額頭。

包小柏透露女兒去世后沒理發的原因

這兩天，這段視頻被翻出來，和AI“復制”女兒的報道一起在社交平臺上擴散。

思女心切的包小柏這幾年里攻讀博士，自學AI技術，經過反復訓練，如愿克隆了一個“女兒”，“對我而言，AI可以讓我明確地知道，能把思念的模式換一種工具來表達。”

包小柏用AI“復活”女兒

用AI“復活”親人，包小柏不是第一個吃螃蟹的人。1月下旬，我們曾報道過一支90后的創業團隊，專門提供克隆數字人的服務，“浙江父親想用AI復活兒子”的話題當時還沖上微博熱搜榜第二。

“浙江父親想用AI復活兒子”的話題沖上熱搜

創始人張澤偉及其團隊，2023年5月至今已為600多個家庭提供AI克隆服務，其中過半為失去子女的年長父母。

在張澤偉看來，團隊所從事的屬于“AI+情感療愈”創業，可以緩解與逝去親人分離的悲痛。但他同樣承認技術是把雙刃劍，“也有可能被壞人利用，防不勝防。”

日臻成熟的AI克隆技術，也給普通人帶來了新的倫理挑戰，讓人不得不重新思考逝者和生者間的關系。

“復制”一個人更容易了

如果放到這輪AI浪潮前，包小柏想要“復制”一個電子女兒，幾乎是不可能的事。現在，只要有充足的數據，從聲音、嘴型到整張人臉都能通過深度學習算法，活靈活現地還原出來。

這兩天，阿里巴巴智能計算研究所發布了一款全新的生成式AI模型EMO（Emote Portrait Alive），僅需一張人物肖像照片和音頻，就可以讓里面的人物按照音頻內容“張嘴”唱歌、說話，且口型基本一致，面部表情和頭部姿態非常自然。

再往前，一款名為HeyGen的AI肖像克隆軟件因為讓泰勒·斯威夫特說中文，讓孫燕姿唱周杰倫的歌走紅網絡。用戶只要上傳一段30秒以上包含人聲的視頻，HeyGen就能模擬嗓音和表情，再與新的內容對上“口型”。

AI肖像克隆軟件讓泰勒·斯威夫特說中文

“他們至少用了三個小型的AI模型，分別完成翻譯、語音提取和克隆、嘴型同步等功能。”看到包小柏“復制”女兒后，從事數字人研發的NextHuman唯物科技創始人吳靖仇感慨技術的進步，“當局部技術不斷涌現，把它們集合在一起，就可能會出現爆款應用。”

但硬幣的另一面是技術被濫用。阿里沒有把EMO推向市場，已經有網友擔憂它會被騙子利用，而HeyGen目前最貴的商業版本只需要72美元/月，網上到處是免費教程，意味著想要拿著它去做違法的事，成本很低。

AI視頻生產過程

此前，歐洲刑警組織就發布過一份觀察報告，預測到2026年，90%的在線內容可能是AI生成或者合成的。這其中就包括對照現實里某個真實人物，用深度偽造技術“復制”出來的“人”，讓他做沒做過的事，說沒說過的話。

“從現在AI的進步速度來看，這個趨勢正在加快。”吳靖仇表示，隨著AI學習能力的提升，“復制”一個內容或者人，所需的數據量和時間都會進一步下降。

烏克蘭女孩的臉被“偷了”

一部分網友已經被技術濫用傷了心。

俄羅斯大妞葉琳娜，在中國生活8年、能說一口流利中文的April安娜，賣俄羅斯進口食品的32歲娜塔莎，喜歡分享中國日常的艾莉兒……

網上的各種俄羅斯美女博主

過去的一兩個月，只要愛逛短視頻和社交平臺，大概率就會刷到一些長相精致的俄羅斯美女博主。她們熱愛中國文化，表示想嫁中國男人，會談論一些爭議性的熱門話題，像是婚嫁的彩禮問題，聊著聊著還會推薦起俄羅斯特產。

“俄羅斯美女博主”推薦起俄羅斯特產

但她們的臉都是從一位烏克蘭網紅身上“偷”的。

不久前，YouTube上擁有1萬多粉絲的奧爾嘉在一段近15分鐘的視頻中，控訴了這件事。

烏克蘭女孩奧爾嘉現身談自己的遭遇

“她們有我的臉、我的聲音，且說得一口流利中文。”奧爾嘉憤怒而無奈。這些賬號用AI生成的短視頻內容賺取流量，為俄羅斯巧克力、糖果等特產帶貨。賣進口零食的娜塔莎，在賬號被平臺下架前已擁有超20萬粉絲，遠多于她本人的賬號。

已被下架的俄羅斯美女博主賬號

“這讓人不寒而栗。”奧爾嘉說以前見過名人被模仿，從未想過自己也會深陷其中。“在這些AI生成的博主背后，作為原型的普通女性可能還不知道自己的臉被盜了，然后被用于何處。”

對此，相關平臺很快采取了行動，并且強調“禁止任何以他人照片或視頻進行換臉的行為”。然而，換臉的“潘多拉魔盒”已經被打開，僅靠自覺和舉報，似乎無法阻擋。

去年6月10日，國家反詐中心辟謠“AI詐騙在全國爆發”，確認全國AI詐騙實施不超過10起，主要是提前制作了換臉視頻，并不是實時的視頻互動通話。但隨著技術持續進步，相關平臺和監管政策準備好了嗎？

律師說法

用AI技術偽造他人肖像屬于侵權行為

北京競天公誠（杭州）律師事務所合伙人何遠

關于AI換臉侵犯肖像權的問題，我國《民法典》已做出明確規定，利用信息技術手段偽造他人的肖像，屬于侵害肖像權的侵權行為。所以，從法律層面講，大家可以放心，《民法典》已經預見這些技術的發展，規定侵害肖像權屬于侵權行為，而聲音屬于一種獨立的新型人格權，并參照肖像權提供法律保護，還規定了保護其他人格權的兜底條款。

同時，《生成式人工智能服務管理暫行辦法》中明確規定，提供和使用生成式人工智能服務，應當遵守法律、行政法規，尊重社會公德和倫理道德，尊重他人合法權益，不得危害他人身心健康，不得侵害他人肖像權、名譽權、隱私權和個人信息權益。

如果你在網絡上發現自己的肖像被不法侵害了，請立即采取錄屏或攝像等方法固定證據，及時向侵權責任人主張權利，包括立即向網絡平臺發起投訴、向國家網信辦違法和不良信息舉報中心投訴、向人民法院起訴等。

此外，網絡平臺對于用戶所發布的信息，是負有審核責任的。所以，如果收到被侵權人投訴后不作為，沒有及時核查、刪除侵權信息，平臺很有可能會因為存在過錯要承擔相應的法律責任，比如賠禮道歉、賠償損失等。

記者觀察

新的數字鴻溝正在產生

生成式AI時代下，耳聽未必為真、眼見未必為實，你接收到的文字、圖片、音視頻信息都可能是AI的產物。而逐漸模糊的現實邊界，正在誕生新的數字鴻溝。

用AI工具生成一張美女照片，貼上“80后單親媽媽”“每日分享自用好物”等標簽，加入商品圖片和介紹，這種簡單而粗糙的AI美女種草/情感博主，眼下正在短視頻平臺上批量出現，瞄準中老年群體。

沒摳好的頭發絲，幾乎一樣的臉，循環的表情和動作，哪怕破綻多到“一眼假”，哪怕平臺已經給部分作品標注了“內容疑似AI生成，請仔細甄別”，仍有大量中老年網友熱情互動，并掏出真金白銀。批量的美貌和廉價的情感雞湯大有市場。