3月15日，在中國(guó)人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟(AIIA)第十一次全會(huì)上，中國(guó)信通院發(fā)布大模型標(biāo)準(zhǔn)符合性驗(yàn)證結(jié)果，華為云盤古憑借大模型安全解決方案——盤古安全護(hù)欄完成軟硬件、數(shù)據(jù)、模型、應(yīng)用等可信模塊測(cè)試，成為業(yè)界首個(gè)在大模型可信領(lǐng)域獲得卓越級(jí)（5級(jí)）評(píng)分的大模型產(chǎn)品。
華為云盤古大模型獲得信通院可信要求5級(jí)評(píng)分
全新盤古安全護(hù)欄，信通院可信滿級(jí)認(rèn)證
近年來(lái)，我國(guó)人工智能產(chǎn)業(yè)在《“十四五”數(shù)字經(jīng)濟(jì)發(fā)展規(guī)劃》《“十四五”國(guó)家信息化規(guī)劃》等政策引導(dǎo)下蓬勃發(fā)展。大規(guī)模預(yù)訓(xùn)練模型作為人工智能新基建的關(guān)鍵技術(shù)，在自然語(yǔ)言處理、計(jì)算機(jī)視覺等領(lǐng)域取得顯著突破。然而，隨著技術(shù)應(yīng)用深入發(fā)展而來(lái)的數(shù)據(jù)投毒、不當(dāng)應(yīng)用等風(fēng)險(xiǎn)也逐漸凸顯。
自2021年起，中國(guó)信通院開始研究大規(guī)模預(yù)訓(xùn)練模型標(biāo)準(zhǔn)，與多方共同建立技術(shù)和應(yīng)用標(biāo)準(zhǔn)體系，推動(dòng)人工智能發(fā)展。華為云盤古大模型在2022年首批參與，“模型開發(fā)”和“模型能力”兩個(gè)模塊達(dá)到優(yōu)秀級(jí)（4+級(jí)），在2023年大模型標(biāo)準(zhǔn)符合性驗(yàn)證結(jié)果中，成為業(yè)界首個(gè)在模型應(yīng)用模塊獲得卓越級(jí)（5級(jí)）評(píng)分的大模型產(chǎn)品。
在本次大模型標(biāo)準(zhǔn)符合性驗(yàn)證中，華為云大模型安全解決方案覆蓋了基礎(chǔ)設(shè)施、訓(xùn)練數(shù)據(jù)、生成內(nèi)容的端到端安全合規(guī)全場(chǎng)景，有效應(yīng)對(duì)大模型數(shù)據(jù)治理、模型可信、內(nèi)容合規(guī)等三大維度風(fēng)險(xiǎn)，并以文本審核、Prompt攻擊檢測(cè)、AIGC鑒偽、個(gè)人隱私脫敏等新型可信能力，確保應(yīng)用中的可信可靠。此外，在軟硬件和數(shù)據(jù)方面，盤古安全護(hù)欄保證了基礎(chǔ)軟硬件的安全性、可靠性和兼容性，以采集、預(yù)處理和使用控制實(shí)現(xiàn)數(shù)據(jù)可信性，并從多角度構(gòu)筑數(shù)據(jù)可信能力，打造穩(wěn)健、可控、合規(guī)且符合價(jià)值觀的應(yīng)用服務(wù)。
為引導(dǎo)產(chǎn)業(yè)發(fā)展和規(guī)范行業(yè)自律，華為云還與中國(guó)信息通信研究院聯(lián)合其他相關(guān)單位共同開展編制《大規(guī)模預(yù)訓(xùn)練模型技術(shù)和應(yīng)用評(píng)估方法 第5部分：可信要求》，為國(guó)家人工智能產(chǎn)業(yè)的健康發(fā)展貢獻(xiàn)力量。
全新盤古安全護(hù)欄，筑牢大模型新防線
大模型逐漸深入行業(yè)核心系統(tǒng)，成為推動(dòng)數(shù)字化轉(zhuǎn)型的關(guān)鍵力量，伴隨而來(lái)的還有端到端的可信挑戰(zhàn)。盤古安全護(hù)欄，進(jìn)一步強(qiáng)化了大模型的全鏈路保障，基于華為云在盤古大模型實(shí)踐中積累的豐富經(jīng)驗(yàn)和技術(shù)優(yōu)勢(shì)，開放兼容，能夠服務(wù)于多樣化的模型形態(tài)，助力企業(yè)實(shí)現(xiàn)大模型全鏈路合規(guī)。
華為云盤古安全護(hù)欄憑借四道防線，全面覆蓋大模型使用的全生命周期，兼容開源、三方大模型，為企業(yè)用戶提供最佳的大模型安全解決方案。
? 數(shù)據(jù)防護(hù)防線：通過數(shù)據(jù)脫敏、數(shù)據(jù)血緣、數(shù)據(jù)防毒等技術(shù)手段，從預(yù)訓(xùn)練模型的數(shù)據(jù)集，直至數(shù)據(jù)治理階段，全方位保障企業(yè)構(gòu)建高質(zhì)量、安全合規(guī)的數(shù)據(jù)集，確保數(shù)據(jù)多樣性和公平性。
? 模型防護(hù)防線：針對(duì)模型訓(xùn)練階段可能遭遇的數(shù)據(jù)投毒風(fēng)險(xiǎn)，以及推理階段訓(xùn)練數(shù)據(jù)、用戶隱私信息泄露等風(fēng)險(xiǎn)，采用模型混淆、模型加密等先進(jìn)技術(shù)，軟硬件結(jié)合，加密模型，有效保障企業(yè)大模型資產(chǎn)安全。
? 內(nèi)容防護(hù)防線：通過Prompt攻擊檢測(cè)等新型防御能力，實(shí)現(xiàn)對(duì)多種直接與間接攻擊手段的有效檢測(cè)，并通過對(duì)模型輸入輸出內(nèi)容嚴(yán)格審核，嚴(yán)防生成有害或不當(dāng)信息，有效應(yīng)對(duì)新型安全風(fēng)險(xiǎn)。
? 應(yīng)用防護(hù)防線：保護(hù)大模型在應(yīng)用插件場(chǎng)景下的安全可靠性，確保大模型在各類應(yīng)用場(chǎng)景中都能穩(wěn)定、高效地發(fā)揮作用。
據(jù)悉，盤古安全護(hù)欄四道防線的綜合攔截率超過90%，能夠?yàn)槠髽I(yè)大模型提供堅(jiān)實(shí)的保障。未來(lái)，華為云將持續(xù)致力于AI技術(shù)與行業(yè)實(shí)踐深度融合，護(hù)航大模型技術(shù)的創(chuàng)新與發(fā)展，為企業(yè)用戶提供更加可信的人工智能解決方案，讓企業(yè)創(chuàng)新安心無(wú)憂。
原創(chuàng)文章，作者：陳晨，如若轉(zhuǎn)載，請(qǐng)注明出處：http://2079x.cn/article/637654.html
