今日一早，多個關於“韓國ai深度偽造淫穢影像”的話題詞引髮網友熱議。
多名韓國女性接到陌生人發來的騷擾信息。她們並不知道，自己的姓名、電話、就讀學校、家庭住址等個人信息已被傳遍多個聊天室。
和個人信息一起被傳閱的，還有她們的照片。不法分子把她們的照片製作成涉黃圖片，供聊天室里的人們觀看。
這些受害者們可能是大學生、護士、教師，甚至是小學生，而散布這些消息的人，可能是受害者的熟人……
一名小學女教師告訴記者，自己被學生告知，一個聊天室里有自己的涉黃照片。讓她崩潰的是，上傳者竟是自己的學生。
據韓國多家媒體報道，最近，韓國再現“n號房”醜聞，“深度偽造”，即利用ai換臉製造色情圖頻，並通過社交媒體平台傳播的性犯罪行為被大量曝光。
經過韓國警方和記者調查，“深度偽造”犯罪和“n號房事件”一樣將特定職業女性性對象化，女兵、女教師、女護士成為非法合成色情圖頻的目標，出現了“女教師房”、“護士房”、“女兵”等群組。最近，以女性家人為對象的“家庭房”、“近親房”等也相繼被發現。
自稱韓國籍女子甚至在中國的微博上求助並曝光相關事件。
此前報道：新版“n號房”細思極恐！“ai換臉”性犯罪引韓國女性恐慌
“你是朱華靜嗎？”
1200個人看過她的照片
2023年春天，女大學生朱華靜收到了一條匿名短信，稱“社交媒體‘電報’（telegram）里有人在分享你的照片”，後面有一個聊天室鏈接。
進入聊天室後，她被那些聊天內容嚇壞了。
“那裡有數十張裸體照片，看起來像是我的照片。可我從未拍過那樣的照片。”朱華靜說。“我的臉上被寫着不堪入目的髒話，嘲笑我即使是名校大學畢業生，找到了好工作，到頭來也不過是供男人玩樂的工具。”
那些照片是通過深度偽造(deep fake)技術合成的。有人還用ai軟件生成了一段音頻：“主人，我是你的奴隸。”
朱華靜聽了好幾遍，聲音和自己很像。可她知道，那不是真的。
聊天室里可以利用軟件給人“脫掉”衣服。
該聊天室建於2020年，群里有多達1200人。也就是說，至少有1200個人看過朱華靜的照片。不法分子們在群里直呼朱華靜的名字，就像她的老朋友一樣，而她對那群人一無所知。
一想到自己就這樣被那群不法分子們圍觀，朱華靜覺得天旋地轉，噁心到想吐。然而，之後發生的事情，更讓她心生後怕。
有人知道她去過聊天室後，開始公然騷擾她。
朱華靜說：“我每天會接到20到30通騷擾電話，他們在電話里講下流的語言，給我發短信，寫着‘我在聊天室里看見你了’‘確定照片里的人是你嗎’。”
她的社交媒體賬號也被人瘋狂發私信，聊天軟件會收到很多條陌生人發來的加好友申請。
朱華靜打算對這些騷擾冷處理，拒接一切電話，註銷了社交媒體賬號。可那群人對她步步緊逼，有人合成了她朋友的照片，逼她就範，否則就會“讓朋友因自己而受苦”。
走投無路的朱華靜決定報警，並把自己收集的信息交給警方。很快，警方根據照片發布者的ip追蹤到一名男性嫌疑人，將其抓捕。
警察告訴朱華靜，該男子與她就讀同一所大學。他們聽過同一場講座，在同一個學生食堂用餐。
朱華靜崩潰了。“他知道我的一切，甚至與我擦身而過。那1200個人都是如此，我卻渾然不知……”
目前，該案件正在首爾中央地方法院進行一審。8月14日，朱華靜出現在法庭上，以受害者的身份向法官陳述自己的經歷。
她說：“可能有許多人無法理解那個聊天室給我造成的傷害，有人甚至認為我在小題大做。但我必須要這麼做，我要公開這些經歷，讓更多的人了解那群人做的事情有多壞，讓更多的壞人付出代價！”
在一個擁有1300多名參與者的大聊天室里，有來自韓國幾十所大學的眾多小型個人聊天室。
韓國近三年深度偽造淫穢影像案件
受害者中未成年人佔比近六成
最大在野黨共同民主黨議員楊富男30日從警察廳方面獲取的資料顯示，2021年至2023年，共有527名深度偽造淫穢影像受害者報案，未成年人佔比達59.8%，遠高於20～29歲（32.1%）、30～39歲（5.3%）和40～49歲（1.1%）。未成年人佔比從2021年的64.6%略降至2022年的52.9%，而去年再升至62%。
隨着技術發展，使用深度偽造技術製造虛假視頻更加方便，導致加害者中未成年人佔比明顯上升。涉嫌製作虛假視頻被立案的加害者中，10～19歲佔比2021年為65.4%，2022年略降至61.2%，去年反彈至75.8%，今年1至7月為73.6%。
資料圖片：社交平台“電報”（telegram）上出現的深偽色情內容群聊頻道截圖
使用deepfake製作非法合成視頻並在telegram上傳播的所謂“熟人侮辱室”的經營者已被移交給檢察官辦公室拘留。受害者人數達到246人。
首爾警察廳“深度偽造等虛假視頻集中應對工作組”30日宣布，開設並運營telegram“熟人侮辱室”的20多歲男子a先生於22日被緊急逮捕，並於當天送交檢察官辦公室拘留。以同樣的罪名拘留的還有b先生，他是一名30多歲的男子，經營一家成人網站約四年，檢察官辦公室收到了2萬多張非法性圖片，包括兒童和青少年的性剝削材料。
涉案人數可能達22萬
據環球時報，8月27日韓國總統尹錫悅表示，最近以不特定人群為對象的深度偽造技術影像通過社交媒體迅速傳播，不少受害者是未成年人，加害者也大多10多歲。他表示，依靠匿名惡意利用深度偽造技術是犯罪行為，希望有關部門通過掌握實際情況和調查，徹底根除這種數字技術犯罪。
針對女性的深度偽造犯罪在韓國日趨猖獗，不僅大學校園中出現此類案件，甚至連中小學、軍隊等場所也成為高發地，社交媒體上，特別是“電報”（telegram）群組中不斷有受害學校及被害者信息流出。
8月26日，韓國女性民友會發布題為《群體性暴力參與者達到22萬人，社會崩潰要被放任到何時》的報告，指出在“電報”群組中，只需上傳熟人照片，付費後5秒鐘內就能生成裸體合成圖。令人震驚的是，這個聊天群的參與人數高達22.7萬。民友會在報告中質問道：“（韓國）女性們生活在一個無法有效懲罰或預防針對女性犯罪和暴力的社會中，失去了日常生活的安全感，彷彿生活在一個沒有國家的狀態中。這樣的社會還有存在的必要？”
面對深度偽造性犯罪的蔓延，韓國社會各界呼籲政府採取更強硬措施。
韓國國會女性家庭委員會27日表示，將於9月召開緊急對策會議，商討相關解決方案。國會相關網站上還出現一份徵求公眾同意的請願書，要求嚴厲懲罰“電報”平台性犯罪的肇事者。
“深度偽造”犯罪頻發引發公憤，
韓國將加強打擊力度
據韓聯社29日報道，韓國政府和執政黨國民力量黨當天同意，加強針對利用“深度偽造”（deepfake）技術進行犯罪行為的打擊力度。報道稱，社交媒體近期出現大量針對年輕女性的偽造淫穢影像，引發韓國公眾憤怒。
韓聯社稱，最近社交媒體平台“電報”（telegram）被發現存在大量疑似分享淫穢影像的群組，這些淫穢影像經“深度偽造”換臉而製成，以不特定人群為對象，受害者包括普通女性和女兵，許多受害者和犯罪者是青少年。
當地時間8月29日，在韓國國會舉行的緊急會議上，韓國政府和執政黨還決定推進與“電報”的運營公司構建合作熱線，並採取立法措施，打擊以傳播為目的製作“深度偽造”色情內容的犯罪行為，將相關最高刑罰從目前的5年提高到7年監禁。
韓國執政黨國民力量黨政策委員會主席金相勛在會議結束後表示，“（‘深度偽造’色情內容）正在通過‘電報’廣泛傳播，但由於其服務器位於海外，國際合作似乎面臨挑戰。”他補充說，韓國政府將與“電報”的運營方舉行會議，並尋求與該公司建立熱線，以推動建立定期協商。
與此同時，韓國國家媒體監督機構——韓國廣播通信委員會表示，由於“電報”創始人兼首席執行官帕維爾·杜羅夫已經在法國被逮捕，韓國方面已緊急致函法國當局，要求協助打擊網絡色情內容犯罪。
韓國國民力量黨黨首韓東勛敦促政府迅速採取措施遏制此類犯罪行為，並強調有必要下調未成年人承擔刑事責任的年齡標準。目前，根據韓國《少年法》，年齡在10至14歲之間的兒童不對自己的行為承擔刑事責任，不會被送往監獄，而是會被送去少年拘留所，或被判罰從事社區服務。
報道稱，在這場會議上，韓國政府和執政黨還同意設立一個跨部門工作組，負責領導打擊“深度偽造”犯罪工作。
韓國國防部表示，正在積極配合警方調查，並採取措施保護受害者，比如提供諮詢和接收舉報。該部門發言人表示，“我們意識到情況的嚴重性……我們還將採取各種預防措施，比如預防教育。”
在8月27日舉行的政府內閣會議上，韓國總統尹錫悅敦促執法機關加大打擊數字性犯罪的力度，以打擊利用人工智能（ai）技術生成的“深度偽造”內容。
來源 | 環球人物、橙柿互動、環球時報、觀察者網
版權歸原作者所有
文章內容及圖片視頻如涉及侵權等問題
請與本號聯繫我們將及時處理
