馬斯克 視覺中國 資料圖
近日，特斯拉首席執行官馬斯克轉發了一條用ai偽造美國副總統哈里斯聲音的視頻，引發了批評與擔憂。
據《紐約時報》7月27日報道，當地時間26日晚，馬斯克在社交平台x上轉發了一條偽造哈里斯聲音作為配音的視頻，並且沒有打上相關標籤進行說明。這疑似違反了x平台的用戶使用條款，並引發了對ai技術在選舉中應用於誤導信息的擔憂。
視頻中，偽造的哈里斯聲音自稱是「最佳的多元化僱員」，並說道：「如果你批評任何我說的話，你就是性別歧視者和種族歧視者。」這條1分53秒的視頻，畫面內容基本取自哈里斯25日發佈的首條競選廣告，但用偽造的哈里斯聲音替換了原視頻的畫外音。除此之外，原視頻開頭2024年大選共和黨候選人特朗普與副手萬斯作為「反面人物」出現的鏡頭也被剪輯刪除。
據美聯社29日報道，兩位研究ai生成媒體內容的專家審查了相關視頻，確定其中的音頻大部分是使用ai技術生成的。加州大學伯克利分校的數字取證專家漢尼·法里德（hany farid）表示，這段視頻展示了生成式人工智能和深度偽造（使用ai軟件通過「換臉」、語音模擬、視頻生成等方式對既有圖像、聲音、視頻進行篡改、偽造）的力量。他認為，生成式人工智能公司應當確保他們的服務不會被濫用於傷害人民或民主。
馬斯克所轉視頻的原發佈者網名為「里根先生」，在youtube視頻平台上有34.8萬名訂閱者。「里根先生」在x帖子的評論區承認他是這條視頻的「製作」者，並在相關帖子中打上了「滑稽模仿」的標籤。但是馬斯克在轉發時並未打上類似標籤，只發佈了「這也太神奇了」的評論和一個大笑的表情。
x的用戶使用條款規定，用戶「不得分享可能欺騙或誤導人們並導致傷害的，經過合成、操縱或斷章取義的媒體內容」。據《紐約時報》報道，數字治理專家亞歷克斯·霍華德（alex howard）27日發帖稱，馬斯克違反了x關於合成內容和誤導信息的政策，並質問作為x所有者的馬斯克是否打算修改這些條款，方便其在選舉年違規。
目前，馬斯克尚未回應此事。截至7月29日中午，馬斯克的轉帖已有超過1.27億次瀏覽量，尚未被刪除。
美國總統拜登7月21日宣布退出總統競選，支持副手哈里斯成為2024年大選民主黨總統候選人。哈里斯競選發言人米婭·埃倫伯格（mia ehrenberg）在聲明中表示：「我們相信，美國人民想要副總統哈里斯提供真正的自由、機會和安全；而不是埃隆·馬斯克和唐納德·特朗普操縱的虛假謊言。」兩周前，在特朗普遇刺後不久，馬斯克曾在x上發帖表達對特朗普的支持。
近年來，一些專家對ai技術驅動的深度偽造發出了越來越緊迫的警告，要求有關機構加強對ai的監督，應對其對民主造成的威脅。美國國會尚未通過有關政治領域ai應用的相關法律，但包括x、facebook、youtube在內的多家美國主流社交平台都已要求用戶對ai生成內容進行披露。
