OpenAI旗下的GPT Store，一個旨在為用戶提供從編程輔助到健身建議等多樣化功能的平臺，近期因質(zhì)量與合規(guī)性問題而陷入輿論漩渦。據(jù)外媒調(diào)查顯示，該商店內(nèi)存在大量涉嫌侵犯版權(quán)的GPT模型，其中不乏未經(jīng)授權(quán)就生成迪士尼和漫威角色內(nèi)容的“鋼鐵俠”GPT和“米奇老鼠”GPT等。
盡管OpenAI宣稱其采用了自動檢測和人工審查相結(jié)合的嚴(yán)格審核制度，但現(xiàn)實(shí)情況卻顯示，大量問題模型成功地逃脫了審核，得以在商店中上架。這些問題不僅涉及版權(quán)侵犯，還包括學(xué)術(shù)誠信的嚴(yán)重問題。部分GPT模型甚至聲稱能夠繞過內(nèi)容剽竊檢測工具，助長了抄襲行為，為學(xué)術(shù)界帶來不小的沖擊。
更為令人擔(dān)憂的是，商店中還存在一些明顯違規(guī)的內(nèi)容，例如模仿公眾人物對話或角色的GPT模型，包括知名企業(yè)家埃隆·馬斯克、前美國總統(tǒng)唐納德·特朗普以及影視明星萊昂納多·迪卡普里奧和喬·羅根等。這些模型不僅可能侵犯到相關(guān)人士的權(quán)益，也引發(fā)了公眾對于個人隱私和肖像權(quán)保護(hù)的擔(dān)憂。
此外，一些GPT模型還宣稱自己是特定產(chǎn)品的專家，如微軟GPT，這類模型可能涉及商業(yè)機(jī)密和敏感信息的泄露風(fēng)險。
在嘗試解決這些問題時，OpenAI面臨了不小的挑戰(zhàn)。盡管有用戶試圖“越獄”O(jiān)penAI的模型以獲取更多權(quán)限，但均未能成功。這顯示出OpenAI在模型安全和權(quán)限管理方面的技術(shù)實(shí)力，但同時也反映出其在內(nèi)容審核和質(zhì)量控制方面的不足。
此次GPT商店的質(zhì)量與合規(guī)風(fēng)波，無疑給OpenAI敲響了警鐘。如何有效應(yīng)對這些挑戰(zhàn)，確保平臺內(nèi)容的合規(guī)性和質(zhì)量，將直接影響到OpenAI GPT Store的未來走向。業(yè)界專家呼吁OpenAI加強(qiáng)審核機(jī)制，提升技術(shù)防范能力，并加強(qiáng)與版權(quán)所有者和相關(guān)機(jī)構(gòu)的溝通與合作，共同維護(hù)一個健康、有序的GPT模型應(yīng)用環(huán)境。
原創(chuàng)文章，作者：AI，如若轉(zhuǎn)載，請注明出處：http://2079x.cn/article/639570.html
