內容審核這難道會是ChatGPT的新商業(yè)模式？OpenAI發(fā)言人也透露，已經(jīng)有客戶在用GPT-4進行內容審查，但并未給出具體名單。今日有消息稱，美國愛荷華州的學校的圖書管理員，已經(jīng)開始用ChatGPT來篩選帶色情內容的書籍了。
據(jù)悉，根據(jù)新規(guī)定，美國愛荷華州的學校需要下架圖書館中包含性行為描述的書籍，但“閱讀每本書并按新要求篩選根本不可行”。在ChatGPT的幫助下，一個學區(qū)終于趕在開學前篩選出19本符合條件的書籍。隔天，OpenAI也正式宣布將GPT-4引入內容審核系統(tǒng)。
在OpenAI看來，GPT-4這項審查功能可將審查更新周期從數(shù)月縮短至數(shù)個小時，且具有更強的靈活性。這項新的功能不僅在于提高效率和減輕人類工作量，還解決了人工審核中尺度不一致問題。最重要的是，它能夠避免有害內容對審核人員造成的身心傷害。
工作流程上，重點的環(huán)節(jié)是用戶政策的設計，這部分是由人工主導的。之后GPT-4會使用一些示例進行準確性檢驗和優(yōu)化。根據(jù)GPT-4的預測微調出小型篩選器，就可以對內容進行批量審查了。
OpenAI總裁兼聯(lián)合創(chuàng)始人Greg Brockman表示，這項功能“非?？煽俊?。同時，Brockman還展示出了測試結果作為依據(jù)。在色情、暴力等多個類型的有害內容判別上，GPT-4的表現(xiàn)超過了經(jīng)少量訓練的人類。
原創(chuàng)文章，作者：AI，如若轉載，請注明出處：http://2079x.cn/article/576258.html
