近日,由第一新聲聯(lián)合天眼查共同發(fā)起的【2023中國(guó)AIGC創(chuàng)新企業(yè)榜】榜單評(píng)選結(jié)果正式公布。本次榜單基于天眼查的大數(shù)據(jù)優(yōu)勢(shì),面向國(guó)內(nèi)數(shù)百家AIGC相關(guān)企業(yè)進(jìn)行深度的調(diào)研與專家評(píng)估,并通過技術(shù)能力、創(chuàng)新能力、應(yīng)用落地能力等多維度展開評(píng)選,最終評(píng)選出相應(yīng)的綜合榜和細(xì)分榜單。
其細(xì)分行業(yè)榜由基礎(chǔ)層「AIGC算力層創(chuàng)新企業(yè)榜」、「AIGC數(shù)據(jù)層創(chuàng)新企業(yè)榜」、模型層、「AIGC通用大模型創(chuàng)新企業(yè)榜」、「AIGC垂直大模型創(chuàng)新企業(yè)榜」、應(yīng)用層「AIGC應(yīng)用場(chǎng)景創(chuàng)新企業(yè)榜」共5個(gè)榜單組成。網(wǎng)易易盾憑借突出的AIGC全鏈路數(shù)字內(nèi)容風(fēng)控解決方案與大量的行業(yè)實(shí)踐經(jīng)驗(yàn)在應(yīng)用層賽道榮膺【AIGC應(yīng)用場(chǎng)景創(chuàng)新企業(yè)榜】。
2023年注定是人類正式翻開AI篇章的第一年。生成式AI已展現(xiàn)出變革經(jīng)濟(jì)社會(huì)的巨大潛力。全球眾多不同領(lǐng)域的科技公司紛紛“跑步進(jìn)場(chǎng)”,僅在中國(guó)就有超過兩百款通用和垂類大模型面世或正在開發(fā)中,而通用大模型成最大熱門,被成為是AI時(shí)代的“靈魂”。
AIGC產(chǎn)業(yè)鏈主要由基礎(chǔ)層、模型層和應(yīng)用層構(gòu)成。其中基礎(chǔ)層主要包括算力和數(shù)據(jù),模型層主要包括通用大模型和垂直大模型(場(chǎng)景/領(lǐng)域/行業(yè)大模型)等,應(yīng)用層主要由不同場(chǎng)景下生成文本/圖像/視頻等多模態(tài)內(nèi)容的AIGC應(yīng)用構(gòu)成,涉及各個(gè)行業(yè)及場(chǎng)景下的應(yīng)用創(chuàng)新。
在內(nèi)容生產(chǎn)方面,與傳統(tǒng)UGC生產(chǎn)方式相比,AIGC所產(chǎn)出的內(nèi)容具有更高的創(chuàng)造力和速度。一方面,AIGC提升了內(nèi)容生產(chǎn)效率,成為數(shù)字內(nèi)容生產(chǎn)的“利器”,但AIGC與UGC平臺(tái)一樣面臨著內(nèi)容安全的風(fēng)險(xiǎn)挑戰(zhàn),由于AIGC的內(nèi)容生產(chǎn)效率大幅提升,它的內(nèi)容體量呈指數(shù)級(jí)增加,安全合規(guī)挑戰(zhàn)也更為嚴(yán)峻。今年國(guó)家網(wǎng)信辦連續(xù)發(fā)布《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》與《生成式人工智能管理辦法》,對(duì)人工智能行業(yè)發(fā)展提出了規(guī)范和要求的主要原因,其中內(nèi)容安全相關(guān)的政策條例占幅最大。
AIGC平臺(tái)的內(nèi)容風(fēng)險(xiǎn)可以出現(xiàn)在大模型的訓(xùn)練、Prompt輸入、模型生成等各個(gè)環(huán)節(jié)。與UGC內(nèi)容類似,AIGC的內(nèi)容風(fēng)險(xiǎn)主要體現(xiàn)在違規(guī)內(nèi)容、意識(shí)形態(tài)問題、誤導(dǎo)性和虛假信息、泄露隱私、侵犯版權(quán)等方面。例如,生成式AI模型是經(jīng)由大量互聯(lián)網(wǎng)內(nèi)容訓(xùn)練的?；ヂ?lián)網(wǎng)內(nèi)容良莠不齊,在正確的提示詞作用下,大型語言模型有可能生成有害內(nèi)容。這就意味著內(nèi)容審核需要發(fā)生在源頭,即AI模型被訓(xùn)練時(shí)以及它們大量生成的輸出上。打個(gè)比方說,這些AI大模型吃的是亂七八糟的草,擠出來的奶,可能有毒;在奶的輸出過程中,還有可能被添加上三聚氰胺。所以生成式AI未來想要大規(guī)模商業(yè)化,內(nèi)容安全是必闖的一關(guān)。
易盾憑借深厚的AI技術(shù)能力和行業(yè)經(jīng)驗(yàn)積累沉淀出一套全方位的AIGC風(fēng)控體系,提供了覆蓋事前—平臺(tái)運(yùn)營(yíng)前置的風(fēng)險(xiǎn)、事中—平臺(tái)內(nèi)容合規(guī)風(fēng)險(xiǎn)以及事后—投訴與違規(guī)處理風(fēng)險(xiǎn)的全流程解決方案。在 AI 算法治理、安全制度管理、AI 偽造內(nèi)容識(shí)別、實(shí)時(shí)審核平臺(tái)建設(shè)與人機(jī)交互等方面不斷開拓與創(chuàng)新,構(gòu)建了多輪多模態(tài)的內(nèi)容風(fēng)控體系,以確保平臺(tái)上的內(nèi)容安全合規(guī),同時(shí)保證 AIGC 技術(shù)的正常運(yùn)營(yíng)和發(fā)展。
縱觀歷史各項(xiàng)對(duì)人類發(fā)展有著重大意義的科技成果,每項(xiàng)成果在大規(guī)模造福人類時(shí)都需要在“安全合規(guī)”的前提下。人工智能行業(yè)的有序健康發(fā)展離不開數(shù)字內(nèi)容風(fēng)控保駕護(hù)航。網(wǎng)易易盾,將繼續(xù)致力于數(shù)字內(nèi)容安全的創(chuàng)新與研究,為新行業(yè)的可持續(xù)發(fā)展做貢獻(xiàn)。
原創(chuàng)文章，作者：陳晨，如若轉(zhuǎn)載，請(qǐng)注明出處：http://2079x.cn/article/613549.html
