位元組跳動被曝秘密使用OpenAI技術、賬戶被暫停，三方回應｜AI前哨

位元組跳動鳳凰網科技訊《AI前哨》北京時間12月16日，據外媒報道，在生成式AI競爭中處於落後的位元組跳動想要「抄近道」，該公司一直在秘密使用OpenAI的技術開發自家大語言模型，這違反了OpenAI的服務條款。目前，位元組跳動的賬戶已被OpenAI暫停。外媒稱，在AI領域，位元組跳動的這一做法通常被視為一種「失禮」行為，也直接違反了OpenAI的服務條款。OpenAI的服務條款規定，該公司所輸出的模型不能被用於「開發任何與我們的產品和服務競爭的AI模型」。位元組跳動通過微軟購買了OpenAI的訪問權限，但是微軟也制定了與OpenAI同樣的政策。外媒獲得的位元組跳動內部文件證實，位元組跳動在幾乎每個開發階段都依賴OpenAI的應用程序接口(API)來開發其代號為「種子計劃」(Project Seed)的基礎大語言模型，包括訓練和評估模型。參與「種子計劃」的員工都深知這一行為的不良影響。根據位元組跳動員工在內部通訊平台飛書海外版Lark的聊天記錄，他們討論了如何通過「數據脫敏」來粉飾證據。外媒稱，位元組跳動員工大量使用OpenAI的技術，以至於「種子計劃」的員工經常達到OpenAI API的最大訪問上限。內部文件顯示，位元組跳動更多的是在「種子計劃」的早期階段使用OpenAI的技術。幾個月前，該公司命令該團隊在「模型開發的任何階段」停止使用GPT生成的文本。大約在這個時候，該公司獲得了批准發佈了自家AI大模型「豆包」，從而讓「種子計劃」上線。但是，位元組跳動繼續以違反OpenAI 和微軟服務條款的方式使用API，包括評估豆包背後模型的性能。一位對位元組跳動內部情況有第一手了解的人指出，「他們說他們想確保一切都是合法的，但他們實際上只是不想被抓住把柄」。位元組跳動發言人約迪·賽斯(Jodi Seth)對此回應稱，GPT生成的數據在「種子計劃」的早期開發中用於註解模型，並且在今年年中左右的時候已從位元組跳動的訓練數據中刪除。「位元組跳動獲得了微軟的許可能夠使用GPT API。我們使用GPT驅動非中國市場的產品和功能，但使用我們自主開發的模型驅動豆包。豆包只在中國提供。」賽斯在聲明中稱。OpenAI發言人尼克·菲利克斯(Niko Felix)發表聲明，確認位元組跳動的賬戶已被暫停。「所有API客戶必須遵守我們的使用政策，以確保我們的技術被用於好的一面。雖然位元組跳動很少使用我們的API，但我們在進一步調查期間已暫停了他們的帳戶。如果我們發現他們的使用不符合公司政策，我們將要求他們做出必要的改變或終止他們的賬戶。」菲利克斯表示。微軟發言人弗蘭克·肖(Frank Shaw)在一份聲明中表示：「Azure OpenAI服務等微軟AI解決方案屬於我們有限訪問框架的一部分，這意味着所有客戶都必須申請並獲得微軟的批准才能訪問。我們還制定了標準並提供資源，幫助我們的客戶負責任地使用這些技術，並遵守我們的服務條款。我們還制定了發現濫用行為的流程，並在企業違反我們的行為準則時停止他們的訪問。」鳳凰網科技《AI哨所》對此將持續關注。(作者/簫雨)