「你們好嗎，我是coco李玟。在我離開這個世界的那一刻起，我一直能感受到你們無盡的愛與支持……」
去世9個月的李玟被網友用ai「復活」了。她坐在鏡頭前，對粉絲訴說著暖心話語。然而，李玟母親的一紙聲明，卻將人拉回現實，讓人看到ai「復活」的另一面：以溫情之名非法牟利，藉機售賣ai服務、惡意轉評引流推廣個人業務。3月30日，李玟母親委託的廣東夢海律師事務所告訴南都、n視頻記者，「我們在固定證據，走法律途徑。」
清明將至，ai「復活」逝者成了熱門生意。南都記者調查發現，在一些電商平台上，有不少做ai「復活」生意的商家，商品標價從幾元、幾十元到上百元乃至數千元。當ai「復活」成為一門生意，帶來哪些倫理爭議和法律挑戰？監管面臨哪些難題？
「ai復活李玟」視頻引發爭議。
李玟被「復活」
「你們好嗎，我是coco李玟，我知道你們可能會感到驚訝，甚至有些不真實。在我離開這個世界的那一刻起，我一直能感受到你們無盡的愛與支持……」
視頻中的「李玟」坐在鏡頭前，對粉絲訴說著暖心話語。這段「逼真」的視頻實際由ai生成，在社交平台上被廣泛傳播。
3月28日，廣東夢海律師事務所受李玟母親委託發佈了一則律師聲明。聲明稱，根據已掌握的證據資料，近期部分網絡用戶未經李玟近親屬同意，利用李玟肖像製作、發佈「ai復活李玟」系列短視頻，以溫情之名非法牟利，藉機售賣ai服務、惡意轉評引流推廣個人業務。
律師聲明。
聲明指出，此類視頻的廣泛傳播已經對委託人及其家人的工作和生活造成了嚴重干擾，同時也給本就深陷痛苦的委託人及家人帶來了巨大的心理衝擊和二次傷害。
聲明嚴正警告涉嫌侵權責任人，於聲明發佈之日起7日內下架、刪除含有上述侵權內容的相關圖片、視頻及文章，立即停止實施相應侵權行為。
近日，南都記者在社交平台搜索ai「復活」李玟的視頻，發現大部分視頻已被下架，但仍有少數視頻依然存在。
這類視頻有的製作很逼真，讓評論區的網友直嘆「難辨真假」。有的製作粗糙，「李玟」對着鏡頭說一些心靈雞湯，表情和動作僵硬，語速也快慢不一。
3月30日，廣東夢海律師事務所工作人員告訴南都記者，「我們在固定證據，走法律途徑。」
ai「復活」成生意
不僅僅是李玟。
被ai「復活」的已故明星還有高以翔和喬任梁。而他們的家人無一例外，均表示對此不能接受。
「他們未徵求我們同意，這是在揭傷疤。」喬任梁父親在接受媒體採訪時說道。
高以翔家人也表示，嚴厲譴責並堅決抵制該行為，若不立即停止侵權行為，會採取法律行動。
被ai「復活」的喬任梁。
與網絡博主用ai「復活」逝去的明星不同，也有不少人用ai「復活」逝去的親人。台灣知名音樂人包小柏此前在個人社交平台分享ai生成的逝去女兒的視頻，就曾引發廣泛關注。
包小柏利用ai「復活」女兒。
越來越多的案例背後，是ai「復活」正在成為一門生意。
南都記者在電商平台上搜索，發現了許多做ai「復活」生意的商家。這類生意以創意ai「復活」照為主，標價在十元至上百元間。
南都記者諮詢了其中一名經營創意ai「復活」照片的商家，從標價10元的鏈接點擊聯繫客服後，對方表示，具體價格要根據照片和要求來定，他們能實現的效果包括「讓照片動起來」和「讓照片開口說話」。
電商平台上的ai「復活」廣告。
該名電商商家表示，如果是讓照片「動起來」，只需要提供正面照片，成片6-7秒。如果想讓照片「說話」，必須提供正面照片與定製文本，價格根據視頻時長而定。
照片說話的聲音有兩種形式可選，一是用商家現成的普通話聲音，音色不可選；二是還原原聲，需要提供足夠的音頻採集，單位時長的價格大概是第一種形式的3倍。
另有電商商家出售一款ai數字人軟件，安裝後可以導入正面照片讓其「開口說話」。
南都記者諮詢該商家，對方表示，該軟件只能實現導入照片和錄好的音頻直接合成，若需要音色克隆，可以購買店裡另外一款ai聲音克隆軟件。兩款軟件一同購買，總售價不超過40元，可以永久無限使用。
此外，ai換臉軟件在電商平台上也很常見。
南都記者在電商平台上檢索發現，這些軟件多以網盤的形式發貨，標價在幾元至十幾元間，但ai換臉軟件的商品頁面幾乎沒有以「復活」親人為營銷。
一款「一鍵換臉」軟件的評論區中，共有6位買家曬出效果圖，均將圖片中的人臉換為明星臉。
監管面臨難題
ai換臉技術自誕生起就備受爭議，用ai換臉侵害他人權益的案件並不少見。
2023年8月10日，公安部通報全國公安機關打擊整治侵犯公民個人信息違法犯罪行為舉措成效。數據顯示，自2020年「凈網」專項行動以來，破獲涉「ai換臉」案件79起，抓獲犯罪嫌疑人515名。
ai換臉技術備受爭議。ic供圖
南都記者了解到，對於生成式ai，近年來監管部門已經出台相關規定。2022年12月11日，《互聯網信息服務深度合成管理規定》發佈，強調深度合成服務提供者需要對深度合成內容進行顯著標識。
2023年7月10日，《生成式人工智能服務管理暫行辦法》（下稱《暫行辦法》）出台。
其中明確提出，提供和使用生成式人工智能服務時，應當尊重他人合法權益，不得危害他人身心健康，不得侵害他人肖像權、名譽權、榮譽權、隱私權和個人信息權益。
《暫行辦法》中還強調，生成式人工智能服務提供者應當使用具有合法來源的數據和基礎模型，不得侵害他人依法享有的知識產權，涉及個人信息的，應當取得個人同意或者符合法律、行政法規規定的其他情形。
由於非法提供者或使用者有匿名性及ai換臉產品本身的可複製性，ai生成產業的監管依然面臨難題。
一名從業者向南都記者坦言，目前ai「復活」逝者產業，並無行業標準，他們對違法使用的行為無法徹底甄別。「我們只能通過詢問動機、多方求證來判斷是否相信他們的故事。」
南都記者諮詢多家經營創意ai「復活」照片的商家發現，其中一些店鋪會在提供服務前強調「不做人臉識別，不做違法行為，只能用於懷念」。
有些店鋪則在聲明中強調，「不得用於商業或非法用途，否則一切後果請用戶自負。」也有出售ai視頻換臉軟件的商家全程沒有提到對用途的限制，其商鋪頁面顯示該軟件已有100多人付款。
倫理與法律困境
ai「復活」李玟被叫停背後，一個無法迴避的問題是：如何在發展ai技術的同時，為其釐清倫理邊界、設定好底線，確保行業在健康的軌道上前行？
廣東廣信君達律師事務所管委會主任、法學博士閃濤長期專註於研究人工智能領域的法律問題。
他告訴南都記者，從侵權角度而言，根據我國《民法典》的相關規定，ai「復活」李玟既涉嫌侵害與死者有關的肖像權、名譽權等人格權，也涉嫌侵害與死者個人信息有關的人格權益。
ai「復活」涉及人臉信息應用，其免責事由在法律法規當中有明確規定。
最高人民法院於發佈的《關於審理使用人臉識別技術處理個人信息相關民事案件適用法律若干問題的規定》，明確了五類行為屬於免責事由。
分別是為應對突發公共衛生事件，或者緊急情況下為保護自然人的生命健康和財產安全所必需而處理人臉信息的；為維護公共安全，依據國家有關規定在公共場所使用人臉識別技術的；為公共利益實施新聞報道、輿論監督等行為在合理的範圍內處理人臉信息的；在自然人或者其監護人同意的範圍內合理處理人臉信息的；符合法律、行政法規規定的其他情形。
「ai『復活』如果在合法合規的方式下是能夠使用的。」閃濤舉例說，比如在某部影片的拍攝過程中，男主角意外身亡。為保證拍攝的順利進行，經過一系列合法合規的步驟後，影片採用ai「復活」的方式使影片得以順利拍攝完成並上映。
「但ai『復活』如果被濫用的話，不僅會給當事人及其親友帶來侵害，也可能危害社會公共秩序，違背公共道德與公序良俗，甚至被不法分子利用從事違法犯罪活動。」
「ai『復活』給法律帶來了新的挑戰。」閃濤認為，ai「復活」仍是新生事物，我國目前已經建立相應的法律法規的框架，但還存在進一步細化的空間，同時基於ai「復活」的利弊，「涉及到普通大眾的心理感受和社會倫理道德方面的問題，法律難以做一刀切的規定」。
閃濤說，從個人最樸素的觀點以及現有的法律原理出發，ai「復活」首先應當遵從本人在生前的明確意願，其次是要遵從在合法使用的情況下，維護包括死者在內的個人合法權益，同時不能違背社會倫理道德。
出品：南都即時
采寫：南都記者 楊婷
