他“復制”了女兒,她被“偷”了臉
久未露面的57歲著名音樂人包小柏,這兩天再次進入大眾視野已是一頭長白發。距離他上一次成為話題人物已過去14年。彼時,他為《快樂女聲》擔任評委,點評辛辣、意氣風發。
這次,他用AI技術在數字世界里“復活”了去世的女兒,“她”不僅可以即時回復對話,而且還在媽媽生日時唱了生日快樂歌。
同樣是最近,另一群中老年網友卻被AI的深度偽造傷了心。他們發現自己真心實意追了一陣的葉琳娜、娜塔莎、April安娜、艾莉兒……通通不存在。這些熱愛中國文化,會說一口流利中文的俄羅斯美女博主,都是有人“偷”了一位烏克蘭女孩的臉,批量生產的AI換臉數字人。
技術,再次展露出了“雙刃劍”的特性。
“復活”親人的不止是包小柏
2021年,包小柏22歲的女兒因病去世。在此前臺媒的一期節目里,他首次透露自從女兒去世后,再也沒有理發的原因:頭發有一段曾經天天觸碰女兒的額頭。
包小柏透露女兒去世后沒理發的原因
這兩天,這段視頻被翻出來,和AI“復制”女兒的報道一起在社交平臺上擴散。
思女心切的包小柏這幾年里攻讀博士,自學AI技術,經過反復訓練,如愿克隆了一個“女兒”,“對我而言,AI可以讓我明確地知道,能把思念的模式換一種工具來表達。”
包小柏用AI“復活”女兒
用AI“復活”親人,包小柏不是第一個吃螃蟹的人。1月下旬,我們曾報道過一支90后的創業團隊,專門提供克隆數字人的服務,“浙江父親想用AI復活兒子”的話題當時還沖上微博熱搜榜第二。
“浙江父親想用AI復活兒子”的話題沖上熱搜
創始人張澤偉及其團隊,2023年5月至今已為600多個家庭提供AI克隆服務,其中過半為失去子女的年長父母。
在張澤偉看來,團隊所從事的屬于“AI+情感療愈”創業,可以緩解與逝去親人分離的悲痛。但他同樣承認技術是把雙刃劍,“也有可能被壞人利用,防不勝防。”
日臻成熟的AI克隆技術,也給普通人帶來了新的倫理挑戰,讓人不得不重新思考逝者和生者間的關系。
“復制”一個人更容易了
如果放到這輪AI浪潮前,包小柏想要“復制”一個電子女兒,幾乎是不可能的事。現在,只要有充足的數據,從聲音、嘴型到整張人臉都能通過深度學習算法,活靈活現地還原出來。
這兩天,阿里巴巴智能計算研究所發布了一款全新的生成式AI模型EMO(Emote Portrait Alive),僅需一張人物肖像照片和音頻,就可以讓里面的人物按照音頻內容“張嘴”唱歌、說話,且口型基本一致,面部表情和頭部姿態非常自然。
再往前,一款名為HeyGen的AI肖像克隆軟件因為讓泰勒·斯威夫特說中文,讓孫燕姿唱周杰倫的歌走紅網絡。用戶只要上傳一段30秒以上包含人聲的視頻,HeyGen就能模擬嗓音和表情,再與新的內容對上“口型”。
AI肖像克隆軟件讓泰勒·斯威夫特說中文
“他們至少用了三個小型的AI模型,分別完成翻譯、語音提取和克隆、嘴型同步等功能。”看到包小柏“復制”女兒后,從事數字人研發的NextHuman唯物科技創始人吳靖仇感慨技術的進步,“當局部技術不斷涌現,把它們集合在一起,就可能會出現爆款應用。”
但硬幣的另一面是技術被濫用。阿里沒有把EMO推向市場,已經有網友擔憂它會被騙子利用,而HeyGen目前最貴的商業版本只需要72美元/月,網上到處是免費教程,意味著想要拿著它去做違法的事,成本很低。
AI視頻生產過程
此前,歐洲刑警組織就發布過一份觀察報告,預測到2026年,90%的在線內容可能是AI生成或者合成的。這其中就包括對照現實里某個真實人物,用深度偽造技術“復制”出來的“人”,讓他做沒做過的事,說沒說過的話。
“從現在AI的進步速度來看,這個趨勢正在加快。”吳靖仇表示,隨著AI學習能力的提升,“復制”一個內容或者人,所需的數據量和時間都會進一步下降。
烏克蘭女孩的臉被“偷了”
一部分網友已經被技術濫用傷了心。
俄羅斯大妞葉琳娜,在中國生活8年、能說一口流利中文的April安娜,賣俄羅斯進口食品的32歲娜塔莎,喜歡分享中國日常的艾莉兒……
網上的各種俄羅斯美女博主
過去的一兩個月,只要愛逛短視頻和社交平臺,大概率就會刷到一些長相精致的俄羅斯美女博主。她們熱愛中國文化,表示想嫁中國男人,會談論一些爭議性的熱門話題,像是婚嫁的彩禮問題,聊著聊著還會推薦起俄羅斯特產。
“俄羅斯美女博主”推薦起俄羅斯特產
但她們的臉都是從一位烏克蘭網紅身上“偷”的。
不久前,YouTube上擁有1萬多粉絲的奧爾嘉在一段近15分鐘的視頻中,控訴了這件事。
烏克蘭女孩奧爾嘉現身談自己的遭遇
“她們有我的臉、我的聲音,且說得一口流利中文。”奧爾嘉憤怒而無奈。這些賬號用AI生成的短視頻內容賺取流量,為俄羅斯巧克力、糖果等特產帶貨。賣進口零食的娜塔莎,在賬號被平臺下架前已擁有超20萬粉絲,遠多于她本人的賬號。
已被下架的俄羅斯美女博主賬號
“這讓人不寒而栗。”奧爾嘉說以前見過名人被模仿,從未想過自己也會深陷其中。“在這些AI生成的博主背后,作為原型的普通女性可能還不知道自己的臉被盜了,然后被用于何處。”
對此,相關平臺很快采取了行動,并且強調“禁止任何以他人照片或視頻進行換臉的行為”。然而,換臉的“潘多拉魔盒”已經被打開,僅靠自覺和舉報,似乎無法阻擋。
去年6月10日,國家反詐中心辟謠“AI詐騙在全國爆發”,確認全國AI詐騙實施不超過10起,主要是提前制作了換臉視頻,并不是實時的視頻互動通話。但隨著技術持續進步,相關平臺和監管政策準備好了嗎?
律師說法
用AI技術偽造他人肖像屬于侵權行為
北京競天公誠(杭州)律師事務所合伙人 何遠
關于AI換臉侵犯肖像權的問題,我國《民法典》已做出明確規定,利用信息技術手段偽造他人的肖像,屬于侵害肖像權的侵權行為。所以,從法律層面講,大家可以放心,《民法典》已經預見這些技術的發展,規定侵害肖像權屬于侵權行為,而聲音屬于一種獨立的新型人格權,并參照肖像權提供法律保護,還規定了保護其他人格權的兜底條款。
同時,《生成式人工智能服務管理暫行辦法》中明確規定,提供和使用生成式人工智能服務,應當遵守法律、行政法規,尊重社會公德和倫理道德,尊重他人合法權益,不得危害他人身心健康,不得侵害他人肖像權、名譽權、隱私權和個人信息權益。
如果你在網絡上發現自己的肖像被不法侵害了,請立即采取錄屏或攝像等方法固定證據,及時向侵權責任人主張權利,包括立即向網絡平臺發起投訴、向國家網信辦違法和不良信息舉報中心投訴、向人民法院起訴等。
此外,網絡平臺對于用戶所發布的信息,是負有審核責任的。所以,如果收到被侵權人投訴后不作為,沒有及時核查、刪除侵權信息,平臺很有可能會因為存在過錯要承擔相應的法律責任,比如賠禮道歉、賠償損失等。
記者觀察
新的數字鴻溝正在產生
生成式AI時代下,耳聽未必為真、眼見未必為實,你接收到的文字、圖片、音視頻信息都可能是AI的產物。而逐漸模糊的現實邊界,正在誕生新的數字鴻溝。
用AI工具生成一張美女照片,貼上“80后單親媽媽”“每日分享自用好物”等標簽,加入商品圖片和介紹,這種簡單而粗糙的AI美女種草/情感博主,眼下正在短視頻平臺上批量出現,瞄準中老年群體。
沒摳好的頭發絲,幾乎一樣的臉,循環的表情和動作,哪怕破綻多到“一眼假”,哪怕平臺已經給部分作品標注了“內容疑似AI生成,請仔細甄別”,仍有大量中老年網友熱情互動,并掏出真金白銀。批量的美貌和廉價的情感雞湯大有市場。
在一些AI主播賬號下的網友留言
對于許多中老年人來說,智能手機和互聯網還沒有完全弄明白,AI就又來搗亂。他們中的大多數,可能并不具備鑒別真人和AI數字人的能力,也理不清楚新型網絡詐騙是怎么回事。
今年,杭州某小學開學第一天,校長上臺就講了OpenAI的GPT和文生視頻大模型Sora,等上信息課的時候,任課老師再次提及。成年人的知識體系,同樣面臨著更新和重構。
就在前些天,為了應對AI時代所帶來的機遇與挑戰,新加坡政府提議對新加坡公民給予一項補貼,支持40歲及以上的人返回高等教育。這個群體將能在5月獲得額外4000元的技能創前程培訓補助。
橙柿互動·都市快報記者 童蔚 梁應杰
“我好像生孩子瞭!”夫妻半夜醒來,竟做出瞭如此荒唐的舉動…
來源: 半島晨報
“網紅”樓最薄處僅 43 厘米,當地住建局:手續合法
來源: 廣西新聞網
6 旬老漢戀上 25 歲孕婦,瘋狂打錢後發現 ......
來源: 現代快報
沈海高速海灣大橋多車相撞,兩人墜海一死一失蹤
來源: 大連晚報
女子網購寵物貓全傢染上貓癬 微商翻臉:不關我事
來源: 看看新聞
騰訊漂流瓶下架瞭!曾是張小龍的驕傲,如今淪為…
來源: 每日經濟新聞
女明星痛批深圳海關“為人民添堵”,結局反轉……
來源: 觀察者網
提醒!“卡還在,錢沒瞭”最新手法,這次更直接!
來源: 央廣新聞
三歲女娃推嬰兒車“自駕遊”,被帶到派出所賴著不想走
來源: 現代快報全媒體
以為患重感冒一查竟是艾滋病!瞬間他止不住渾身打冷戰
來源: 濟南都市頻道
女乘客連扇司機兩耳光,司機還手公交車撞橋上…
來源: ZAKER貴陽
灑水車灑水結冰摔傷人,城管一審被判賠償 11 萬多 !
來源: 合肥晚報微信
已婚男出軌被分手 跨省拐走女友 5 歲兒子
來源: 安徽公共頻道
深秋時節小夥跑步 5 公裡後暈倒,得瞭熱射病送醫搶救
來源: 錢江晚報
女子凌晨街頭僅穿內衣邊哭邊跑!此時她老公正在 ...
來源: 江蘇新聞
“能幫我代購一隻香奈兒 58 嗎?”朋友圈代購聊天截圖感受下 ...
來源: 吐槽星君
女童撞倒 8 旬老太被判賠償 16 萬 監護人:沒撞到她
來源: 看看新聞Knews綜合
十堰男子與夜店舞女發生一夜情 不幸染上艾滋
來源: 大楚網
5 億房客信息“裸奔”過瞭 4 年才發現!
來源: 央視財經
真不是開玩笑,女子連吃 5 年減肥藥吃成精神障礙
來源: 錢江晚報
大叔在河裡發現一龐然大物!專傢:趕緊吃瞭
來源: 杭州交通918
央視曝光“過水蟹”冒充陽澄湖蟹在電商銷售
來源: 央視新聞客戶端
杯具瞭!一個醉駕一個逆行,兩摩托相撞致一人休克
來源: ZAKER貴陽
花千元網購萌寵全傢染貓癬 微商翻臉:不關我事
來源: 看看新聞Knews
她們手機 24 小時不關,就怕錯過艾滋病友的求救電話
來源: 新晚報
小兩口會所消費 10 萬,凌晨付錢時卻主動報警!最後買單的竟是… 半島晨報 今天
來源: 半島晨報
警察勸解鬥毆被砍傷縫 34 針:我的耳朵還在麼 ?
來源: 房山警方在線
起底“最美通緝犯”:上學愛化妝 班上公認最漂亮
來源: 北青深一度
女婿崩潰:丈母娘讓我辭職回傢帶孩子!網友炸鍋瞭
來源: 華商晨報
“恐艾”的陰霾:性愛成路人,清白成絕癥
來源: 李香菜