隨著人工智慧軟體普及,「ai換臉」「ai合成照片、視頻」等技術越來越多地出現在網路里,「ai」造假花樣越來越多,一些不法分子將新技術用於非法的目的,讓犯罪手段又有了新方式。
「一鍵去衣」!深度偽造近七千張淫穢圖片
在北京警方偵破的一起案件中,警方接到報案,有人在境外的網站上發廣告,只需一張日常生活照片,就可以完成一鍵「去衣」的效果。
一名被警方抓獲的犯罪嫌疑人白某某原本是一家互聯網公司的技術員,他因為使用ai去衣技術,製作、販賣淫穢物品而涉嫌犯罪。
北京市海淀區人民檢察院檢察官助理郭樹正:白某某用的這款人工智慧軟體,能很快對被害人的圖片「一鍵去衣」,基本上幾秒鐘、幾分鐘就能批量生成相應的圖片。他在qq上向351個人販賣過相關圖片,圖片數量將近7000張。
那麼,這些經過去衣的照片的受害者都是什麼人?白某某為什麼要製作這些照片呢?他又是如何進行牟利的呢?
2023年6月,家住北京的白某某在境外的社交媒體上接觸到了這項「一鍵去衣」的技術,於是他動起了歪心思,打算利用這項技術來賺錢。
白某某發布的廣告帖,上面寫著「電腦ai去衣,白菜價」「身邊人、網紅、明星皆可」。他的廣告發布後,有不少人聯繫白某某,給他發送照片併購買這項「去衣」服務。
那麼,「ai去衣」究竟是怎樣的一種技術呢?據白某某供述,這項技術並不是真的「去衣」,而是一種偽造、重繪的技術。
郭樹正:其實我們可以把它理解為深度的圖片偽造,它並不是真的去掉別人照片上的衣服,其實都是針對已有的模型和已有的模組進行圖片重繪。
而且,這項技術操作起來十分簡單,去衣只需要一鍵就能完成,因此白某某定價不高,一張照片只需要1.5元,卻可以利用低價吸引更多的訂單。
檢察機關認為,被告人白某某以牟利為目的,製作、販賣淫穢物品,情節嚴重,其行為觸犯了《中華人民共和國刑法》的相關規定,應當以製作、販賣淫穢物品牟利罪追究其刑事責任。
公訴人:人工智慧技術興起之後,已經成為當今科技領域備受矚目的技術之一,正在深刻改變我們社會、經濟以及生活方式,為社會帶來更多的便利。同時我們也打擊治理運用ai技術實施犯罪,任何利用新技術實施犯罪的行為必將受到嚴懲。
「換臉」偽造不雅照實施敲詐勒索
一鍵去衣、ai換臉技術,還會被不法分子利用,成為敲詐勒索的工具。近期,這類案件又有抬頭趨勢。前不久,深圳警方打掉一個團伙,這個團伙從網上等各種渠道收集被害人圖片信息,然後進行合成處理,用來敲詐勒索。
前不久,深圳市民吳先生突然收到一個陌生手機號碼發來的彩信,點開一看竟然是他和一名陌生女子在酒店房間內的不雅照片。
當事人吳先生:當時我收到一條彩信,裡面是我的一張裸照,他當時威脅我,在幾點之前要跟他聯繫給他轉錢,我當時一想不對勁,就報警了。
深圳警方接到報案後,立即對吳先生提供的線索進行偵查。通過梳理報案記錄,警方發現全市有同樣遭遇的不止吳先生一人,犯罪嫌疑人的敲詐勒索方式都如出一轍。
於是警方立即對相似的案件進行串並處理。調查後,一個通過換臉技術合成不雅照,實施敲詐勒索的犯罪團伙逐漸浮出水面。
隨著偵查工作的深入,警方發現這是一個以王某為首的犯罪團伙,團伙內分工明確,有人負責修圖,有人負責尋找作案目標,有人負責發簡訊打電話聯繫收款。深圳坪山警方兵分多路,展開統一收網行動,在多地警方協助下成功抓獲以王某為首的十多名犯罪嫌疑人。
在犯罪嫌疑人的電腦里,警方發現了大量經過合成換臉後的不雅照片。
目前,王某等人已被檢察機關提起公訴。案件正在進一步審理當中。
以合成照威脅受害人並準確說出個人信息
在山東威海,也有當事人遭遇到騙局,在收到偽造的不雅照後,沒有多加核實,就向敲詐團伙轉賬20萬元。
前不久,威海警方接到了反詐中心的一條資金預警信息,有市民正在向涉詐賬戶進行轉賬,民警立即與當事人取得聯繫,核實情況。
威海市公安局經濟技術開發區分局皇冠派出所民警劉羿:我們看到他的手機收到了一條簡訊,簡訊上的內容大概就是一張圖片,上面有一男一女的裸照,還附了留言,說「我有你全部的影像資料,趕緊跟我聯繫」,並附上了一個電話。
王先生說自己當時看到這張照片,當時就有點蒙。沒有來得及多想,他撥打了信息上面的電話。由於對方準確地說出了自己的姓名以及工作單位,並且告訴王先生只要向他們轉賬68萬元就可以買斷這些視頻,如果王先生不給錢就把視頻公開。在對方的恐嚇下,王先生信以為真。
然而,先後轉賬的20萬元,根本滿足不了對方的胃口。正當王先生驚慌失措時,民警聯繫到了王先生。
劉羿:當我們跟王先生一同看這張照片的時候,我們發現雖然臉部有相似的地方,但是他的臉型以及身形完全不是他本人。
之後,民警趕緊通過國家反詐大數據平台對王先生轉賬的兩個銀行賬戶進行緊急止付操作。
經過研判分析,警方鎖定了犯罪嫌疑人鄭某和鍾某的身份信息。今年1月22日,威海警方趕赴浙江烏鎮將兩名犯罪嫌疑人抓獲歸案,為王先生挽回了損失。
警方提示:遇到此類情況要及時留存證據,撥打110報警。