字節跳動被曝秘密使用OpenAI技術、賬戶被暫停，三方回應｜AI前哨

字節跳動鳳凰網科技訊《AI前哨》北京時間12月16日，據外媒報道，在生成式AI競爭中處於落後的字節跳動想要“抄近道”，該公司一直在秘密使用OpenAI的技術開發自家大語言模型，這違反了OpenAI的服務條款。目前，字節跳動的賬戶已被OpenAI暫停。外媒稱，在AI領域，字節跳動的這一做法通常被視為一種“失禮”行為，也直接違反了OpenAI的服務條款。OpenAI的服務條款規定，該公司所輸出的模型不能被用於“開發任何與我們的產品和服務競爭的AI模型”。字節跳動通過微軟購買了OpenAI的訪問權限，但是微軟也制定了與OpenAI同樣的政策。外媒獲得的字節跳動內部文件證實，字節跳動在幾乎每個開發階段都依賴OpenAI的應用程序接口(API)來開發其代號為“種子計劃”(Project Seed)的基礎大語言模型，包括訓練和評估模型。參與“種子計劃”的員工都深知這一行為的不良影響。根據字節跳動員工在內部通訊平台飛書海外版Lark的聊天記錄，他們討論了如何通過“數據脫敏”來粉飾證據。外媒稱，字節跳動員工大量使用OpenAI的技術，以至於“種子計劃”的員工經常達到OpenAI API的最大訪問上限。內部文件顯示，字節跳動更多的是在“種子計劃”的早期階段使用OpenAI的技術。幾個月前，該公司命令該團隊在“模型開發的任何階段”停止使用GPT生成的文本。大約在這個時候，該公司獲得了批准發布了自家AI大模型“豆包”，從而讓“種子計劃”上線。但是，字節跳動繼續以違反OpenAI 和微軟服務條款的方式使用API，包括評估豆包背後模型的性能。一位對字節跳動內部情況有第一手了解的人指出，“他們說他們想確保一切都是合法的，但他們實際上只是不想被抓住把柄”。字節跳動發言人約迪·賽斯(Jodi Seth)對此回應稱，GPT生成的數據在“種子計劃”的早期開發中用於註解模型，並且在今年年中左右的時候已從字節跳動的訓練數據中刪除。“字節跳動獲得了微軟的許可能夠使用GPT API。我們使用GPT驅動非中國市場的產品和功能，但使用我們自主開發的模型驅動豆包。豆包只在中國提供。”賽斯在聲明中稱。OpenAI發言人尼克·菲利克斯(Niko Felix)發表聲明，確認字節跳動的賬戶已被暫停。“所有API客戶必須遵守我們的使用政策，以確保我們的技術被用於好的一面。雖然字節跳動很少使用我們的API，但我們在進一步調查期間已暫停了他們的帳戶。如果我們發現他們的使用不符合公司政策，我們將要求他們做出必要的改變或終止他們的賬戶。”菲利克斯表示。微軟發言人弗蘭克·肖(Frank Shaw)在一份聲明中表示：“Azure OpenAI服務等微軟AI解決方案屬於我們有限訪問框架的一部分，這意味着所有客戶都必須申請並獲得微軟的批准才能訪問。我們還制定了標準並提供資源，幫助我們的客戶負責任地使用這些技術，並遵守我們的服務條款。我們還制定了發現濫用行為的流程，並在企業違反我們的行為準則時停止他們的訪問。”鳳凰網科技《AI哨所》對此將持續關注。(作者/簫雨)