OpenAI旗下的GPT Store，一個旨在為用戶提供從編程輔助到健身建議等多樣化功能的平臺，近期因質(zhì)量與合規(guī)性問題而陷入輿論漩渦。據(jù)外媒調(diào)查顯示，該商店內(nèi)存在大量涉嫌侵犯版權的GPT模型，其中不乏未經(jīng)授權就生成迪士尼和漫威角色內(nèi)容的“鋼鐵俠”GPT和“米奇老鼠”GPT等。
盡管OpenAI宣稱其采用了自動檢測和人工審查相結合的嚴格審核制度，但現(xiàn)實情況卻顯示，大量問題模型成功地逃脫了審核，得以在商店中上架。這些問題不僅涉及版權侵犯，還包括學術誠信的嚴重問題。部分GPT模型甚至聲稱能夠繞過內(nèi)容剽竊檢測工具，助長了抄襲行為，為學術界帶來不小的沖擊。
更為令人擔憂的是，商店中還存在一些明顯違規(guī)的內(nèi)容，例如模仿公眾人物對話或角色的GPT模型，包括知名企業(yè)家埃隆·馬斯克、前美國總統(tǒng)唐納德·特朗普以及影視明星萊昂納多·迪卡普里奧和喬·羅根等。這些模型不僅可能侵犯到相關人士的權益，也引發(fā)了公眾對于個人隱私和肖像權保護的擔憂。
此外，一些GPT模型還宣稱自己是特定產(chǎn)品的專家，如微軟GPT，這類模型可能涉及商業(yè)機密和敏感信息的泄露風險。
在嘗試解決這些問題時，OpenAI面臨了不小的挑戰(zhàn)。盡管有用戶試圖“越獄”O(jiān)penAI的模型以獲取更多權限，但均未能成功。這顯示出OpenAI在模型安全和權限管理方面的技術實力，但同時也反映出其在內(nèi)容審核和質(zhì)量控制方面的不足。
此次GPT商店的質(zhì)量與合規(guī)風波，無疑給OpenAI敲響了警鐘。如何有效應對這些挑戰(zhàn)，確保平臺內(nèi)容的合規(guī)性和質(zhì)量，將直接影響到OpenAI GPT Store的未來走向。業(yè)界專家呼吁OpenAI加強審核機制，提升技術防范能力，并加強與版權所有者和相關機構的溝通與合作，共同維護一個健康、有序的GPT模型應用環(huán)境。
原創(chuàng)文章，作者：AI，如若轉(zhuǎn)載，請注明出處：http://2079x.cn/article/639570.html
