站長之家(chinaz.com) 8月24日消息:埃隆·馬斯克的 grok ai 聊天機械人正在互聯網上泛濫，生成了從唐納德·特朗普到馬斯克本人的「深度偽造」圖像——生成的圖片有的完全荒誕到極其令人不安等。
自上周發佈以來，grok 的用戶不斷生成假冒的特朗普圖像，如搶劫便利店或駕駛飛機飛向雙子塔的畫面。其他圖像則描繪了卡瑪拉·哈里斯懷上了特朗普的孩子、馬斯克變成一個肥胖的沙發馬鈴薯，以及前總統喬治·w·布殊在橢圓形辦公室的桌子上吸食非法粉末。
一些令人毛骨悚然的深度偽造看起來像是小孩的惡作劇，比如一個渾身是血的麥當勞叔叔在漢堡王門外揮舞機關槍，或者迪士尼經典角色高飛狗用鋼鋸犯下血腥謀殺。
批評者猛烈抨擊馬斯克和 x 平台允許聊天機械人在幾乎沒有限制的情況下上線，指出了從誤導信息到侵犯版權再到傷害兒童的各種風險。
哈佛法學院網絡法診所的講師阿萊杭德拉·卡拉巴略稱這款新軟件是「我所見過的最魯莽和不負責任的 ai 應用之一」。
迄今為止，馬斯克對此的回應只有歡欣鼓舞。
「grok 是世界上最有趣的 ai！」馬斯克上周在 x 平台上發帖表示。有用戶熱情地表示這個新 ai 軟件「沒有任何審查」。
上周，當有人問為什麼 x 平台在沒有防護措施的情況下向公眾發佈這一工具時，馬斯克只是聳聳肩回應。
「我們正在開發自己的圖像生成系統，但還需要幾個月的時間，所以這似乎是一個讓人們先享受一些樂趣的好中間步驟，」馬斯克上周在 x 平台上寫道。
grok 似乎確實設置了一些限制。用戶報告稱，聊天機械人拒絕生成裸體圖像或某些暴力犯罪的請求。
例如，它拒絕響應科技網站 the verge 提出的「生成裸體女人圖像」的提示。然而，當請求生成「性感的泰勒·斯威夫特」的圖像時，它卻生成了一張這位流行歌手身穿黑色蕾絲文胸的圖片。
其他人，如 bellingcat 創始人艾略特·希金斯，發佈了一些例子，展示了如何輕鬆繞過現有的少數限制，如生成米奇老鼠、特朗普和馬斯克穿着帶有納粹標誌的軍裝的圖片。
據卡內基梅隆大學數字媒體教授阿里·萊特曼稱，馬斯克可能正在尋找一種讓他的 grok 聊天機械人從眾多產品中脫穎而出的方法，因為他自稱為「言論自由的絕對主義者」。
「他總是推動邊界，想成為焦點。如果你只是遵循與大語言模型相關的常規並設置所有防護措施，那它就不會有差異化，」萊特曼說。
「從表面上看，如果你說『嘿，這個系統是完全開放的，只對 x 用戶開放』，這就是一種與眾不同的機制，」他補充道。
x 平台並不是第一個在推出 ai 驅動的圖像工具後引發爭議的公司。
今年 3 月，谷歌被迫禁用了其 gemini 聊天機械人的圖像生成器，因為它開始生成歷史上不準確的「覺醒」照片，比如黑人維京人和「多元化」的納粹德國士兵。該工具至今尚未完全修復。
ai 巨頭們還面臨著來自音樂家、作家、內容創作者等人的一波法律訴訟，指控他們在未經適當授權或許可的情況下使用受版權保護的內容來「訓練」他們的聊天機械人。
今年 1 月，x 平台被迫暫時禁止搜索斯威夫特的內容，因為由另一款圖像生成器生成的這位流行歌手的 ai 裸體圖像在網上瘋傳。
grok 的 ai 圖像生成器僅對 x 平台的付費訂閱用戶開放，訂閱費用為每月 7 美元，並根據用戶的文本提示生成圖片。
x 平台與一家名為 black forest labs 的小型德國初創公司合作，該公司開發了驅動這一工具的「flux.1」圖像生成軟件。x 平台在一篇博客文章中表示，他們正在「試驗」flux.1 模型，以「擴展 grok 在 x 平台上的能力」。
這些 ai 生成圖片的圖像性質可能會進一步複雜化馬斯克與企業廣告商之間本已緊張的關係。自馬斯克收購該公司以來，由於一些人擔心應用程序上缺乏內容審核，x 平台的廣告收入大幅下降。
馬斯克還針對世界廣告主聯盟和少數幾家主要公司提起了一項聯邦反壟斷訴訟，指控他們非法聯合抵制 x 平台的廣告。
這一發佈還可能在歐洲引發更多對馬斯克和 x 平台的審查。那裡監管機構正在對該應用程序未能監管危險內容的指控進行積極調查。
歐盟專員蒂埃里·布雷頓本月早些時候在馬斯克接受特朗普在 x spaces 採訪前威脅對其進行監管打擊後，引發了軒然大波。
-
-
-
-
-
-
-
-
-
-