ChatGPT又闖禍了?AI配音被指酷似知名演員 OpenAI緊急宣布停用

財聯社5月21日訊(編輯 史正丞)當地時間周一,美國科創公司openai發表聲明宣布,由於旗下聊天機械人chatgpt的一款名為sky的女性配音引髮網友廣泛質疑,公司正採取措施解決問題,同時正在暫停使用這款ai聲音模板。

(來源:x)

需要說明的是,chatgpt的語音模式其實是在去年9月底推出的,當初一共發佈了5款配音,引發爭議的sky也在其中。當然,引爆爭議的源頭,還是openai上周在發佈會上引入的「實時語音對話」。

除了聲音酷似外 還有刻意「諂媚」嫌疑

在上周的發佈會上,openai發佈了最新的gpt-4o模型。通過反應速度的倍增,使得chatgpt的語音功能順滑到類似於「實時對話」的程度——你可以時不時插嘴打斷聊天機械人,彷彿就像是在與真人交流那樣。而且chatgpt也能分辨出說話者的語氣,回應的情感也更加強烈。

(研究人員現場演示語音對話,來源:openai春季更新)

或許是為了慶祝人機交互的跨越式進步,openai首席執行官山姆·奧爾特曼在發佈會結束後,馬上發了一個單詞——her,指的是科幻愛情電影《her》的場景正在成為現實。在那部2013年的電影中,講述了一個人類與人工智能助手陷入複雜戀情的故事。

(來源:x)

也是因為這個比喻,令不少網友意識到了另一個問題:openai找的配音,是不是與好萊塢知名女演員、飾演過漫威宇宙英雄「黑寡婦」,以及給《her》裏面人工智能助手配音的斯嘉麗·約翰遜(scarlett johansson)非常相近

(斯嘉麗·約翰遜資料圖,來源:社交媒體)

除了聲音外,openai的新對話功能也引發了深一層的爭議:除了與主持人進行互動外,chatgpt似乎額外展現了「討好」對話者的傾向性。例如在展示多模態對話功能時,聊天機械人會感嘆「哇,你穿的衣服真是相當有型」。而在受到讚美時,chatgpt還會說「別這樣,你讓我臉紅了」。

有網友一針見血地指出:這讓人感覺像是給男性寫的女性角色

由於發佈會篇幅限制,同時新的語音模式還未向付費用戶推送,目前並不知道chatgpt在語音模式下是否會有討好女性用戶的一面。

對於這些爭議,openai也在周日發佈了一篇長文,雖然沒有回應對話「諂媚」的問題,但明確對語音像女演員一事給予堅決否認。

openai揭秘:這些語音是怎麼來的

在《chatgpt的語音是怎麼選出來的》一文中,openai披露,在去年9月推出語音模式前,公司進行了為期5個月的選角,最終從400多份申請中挑選出了5個聲音。

openai斬釘截鐵地表示,人工智能的語音不應該刻意模仿名人的獨特聲音——sky的聲音並不是在模仿斯嘉麗·約翰遜,而是屬於另一個專業女演員,這是她自然說話的聲音。openai也表示,為了保護配音演員的隱私,公司無法對外公開他們的名字。

openai透露,在2023年初為了讓chatgpt「說話」,公司與一系列知名的選角導演、製片人合作定下了選拔「chatgpt配音演員」的標準,例如:

有不同背景或能說多種語言的演員;

一種聽起來有「永恆」(timeless)感覺的聲音;

一種平易近人、能激發信任的聲音;

一種音色豐富,且溫暖、引人入勝、充滿自信、魅力十足的聲音;

自然且易於聽取。

openai介紹稱,在2023年5月,選角機構發佈了招募配音演員的通知,在不到一周的時間內,總共受到超過400份申請,有來自專業配音演員,還有一些影視演員。

為了參加試鏡,演員們被要求錄製一份chatgpt回復的劇本,涵蓋的問題包括正念、頭腦風暴旅行計劃,以及與用戶「日常一天」有關的對話文本。

通過海選,openai確定了一份14人的初選名單。接下來公司與每位演員討論了ai語音交互和公司的願景,包括技術能力、局限性、涉及風險以及已經實施的保障措施。之後openai的內部團隊基於產品和研究的角度,最終選擇了5個聲音。這些演員在去年6月和7月期間飛往舊金山展開錄音。

openai也在公告中強調,每位配音演員都獲得了「高於市場最高水平」的報酬,只要chatgpt持續使用他們的聲音,這種待遇就會持續下去。

公司表示,計劃在未來幾周里向付費用戶提供gpt-4o新語音模式的訪問權限。未來也將給chatgpt引入更多的聲音,以更好地匹配用戶的不同興趣和偏好。