5月24日,騰訊QQ發(fā)布2024第一季度QQ平臺(tái)生態(tài)治理公告。公告顯示,第一季度平臺(tái)累計(jì)打擊違規(guī)賬號(hào)411萬(wàn)個(gè),并重點(diǎn)整治涉網(wǎng)絡(luò)賭博、詐騙、未成年人負(fù)面影響的有害內(nèi)容。
為給用戶(hù)打造清朗健康的網(wǎng)絡(luò)環(huán)境、安全可靠的使用體驗(yàn),25年來(lái)QQ持續(xù)通過(guò)技術(shù)手段、產(chǎn)品手段、運(yùn)營(yíng)手段的多維度升級(jí),不斷鞏固平臺(tái)安全防御機(jī)制。2023年,基于QQNT重構(gòu),安全團(tuán)隊(duì)協(xié)同騰訊多個(gè)安全實(shí)驗(yàn)室全面加強(qiáng)各項(xiàng)核心安全能力,并持續(xù)加大對(duì)網(wǎng)絡(luò)黑灰產(chǎn)和不良信息的整治力度,進(jìn)一步保障用戶(hù)權(quán)益,維護(hù)平臺(tái)生態(tài)秩序。
AI技術(shù)加持,更精準(zhǔn)實(shí)現(xiàn)黑灰產(chǎn)打擊治理
互聯(lián)網(wǎng)產(chǎn)品所面臨的主要挑戰(zhàn)之一是網(wǎng)絡(luò)黑灰產(chǎn)的持續(xù)作惡。大數(shù)據(jù)、人工智能、區(qū)塊鏈等新技術(shù)、新業(yè)態(tài)的發(fā)展,也使得網(wǎng)絡(luò)黑產(chǎn)非法牟利的技術(shù)和手段不斷變形升級(jí)。
為了有效對(duì)抗黑灰產(chǎn),在充分保障用戶(hù)隱私的情況下,QQ安全團(tuán)隊(duì)利用安全大數(shù)據(jù)、社交圖計(jì)算、安全多模態(tài)大模型等手段構(gòu)建了一套全方位的安全技術(shù)防御體系,實(shí)現(xiàn)上游嚴(yán)格管控黑灰產(chǎn)賬號(hào)資源、中游及時(shí)準(zhǔn)確識(shí)別各類(lèi)風(fēng)險(xiǎn)、下游精準(zhǔn)打擊處置違規(guī)內(nèi)容。
違規(guī)內(nèi)容示例
據(jù)QQ安全團(tuán)隊(duì)介紹,以違規(guī)內(nèi)容識(shí)別打擊為例,借助大模型對(duì)通識(shí)和社交知識(shí)的學(xué)習(xí)積累和應(yīng)用能力,QQ平臺(tái)能夠準(zhǔn)確鑒別各類(lèi)色情低俗內(nèi)容。而針對(duì)“AI換臉”新型詐騙,QQ也已經(jīng)儲(chǔ)備了異常環(huán)境檢測(cè)、風(fēng)險(xiǎn)賬號(hào)識(shí)別和異常操作分析等多重技術(shù)手段,一但出現(xiàn)此類(lèi)風(fēng)險(xiǎn)可以對(duì)疑似被詐用戶(hù)下發(fā)提醒或直接攔截阻斷,保障用戶(hù)隱私和財(cái)產(chǎn)安全。
同時(shí),QQ也根據(jù)不同用戶(hù)特點(diǎn),在“加好友、加群、溝通、分享屏幕”等業(yè)務(wù)場(chǎng)景部署多重安全防護(hù)措施,通過(guò)安全彈框、狀態(tài)欄消息、公眾號(hào)推送等多種形式的安全提醒每天觸達(dá)約30余萬(wàn)名用戶(hù),及時(shí)有效提醒廣大用戶(hù)警惕網(wǎng)絡(luò)風(fēng)險(xiǎn)。
風(fēng)險(xiǎn)流量下降超過(guò)90%,QQ協(xié)議掛治理成效顯著
不久前,#小時(shí)候被盜的QQ終于有救了#一度登上話(huà)題熱搜,起因是有一網(wǎng)友分享了自己成功找回QQ的經(jīng)驗(yàn)。作為國(guó)內(nèi)最早的即時(shí)通訊工具,QQ賬號(hào)是許多用戶(hù)的互聯(lián)網(wǎng)鑰匙,被廣泛應(yīng)用于各個(gè)互聯(lián)網(wǎng)產(chǎn)品中,這也無(wú)形中放大了QQ賬號(hào)密碼泄露的風(fēng)險(xiǎn),增加了QQ賬號(hào)安全工作的復(fù)雜性。
針對(duì)黑產(chǎn)作惡全鏈路的多個(gè)核心節(jié)點(diǎn),QQ安全團(tuán)隊(duì)基于QQNT全新的系統(tǒng)架構(gòu),全面加強(qiáng)各項(xiàng)核心安全能力,實(shí)時(shí)響應(yīng)并自動(dòng)化攔截突發(fā)異常,精準(zhǔn)打擊黑流量,在用戶(hù)零感知情況下精細(xì)化處置各類(lèi)風(fēng)險(xiǎn),守護(hù)用戶(hù)數(shù)據(jù)資產(chǎn)安全。
據(jù)QQ安全團(tuán)隊(duì)介紹,目前已經(jīng)對(duì)“黑產(chǎn)自動(dòng)化作惡工具、作惡號(hào)源批量生產(chǎn)、黑號(hào)解封復(fù)活操作、惡意流量曝光占位”等實(shí)現(xiàn)有效的持續(xù)性封堵攔截,特別是在QQ協(xié)議掛的治理上基本達(dá)成“團(tuán)滅”的打擊效果。隨著新版QQ安全加固的落地,其針對(duì)所有端的協(xié)議都完成了自動(dòng)化管理覆蓋,平臺(tái)整體風(fēng)險(xiǎn)流量相比2022年初下降超90%。
此外,在“賬號(hào)登錄、賬號(hào)異常風(fēng)險(xiǎn)提醒、賬號(hào)找回”等涉及用戶(hù)體驗(yàn)層面,QQ也在持續(xù)優(yōu)化流程,保障用戶(hù)安全便捷操作。
賬號(hào)安全功能界面
青少年模式下實(shí)現(xiàn)內(nèi)容分層,QQ未成年保護(hù)進(jìn)一步升級(jí)
飛速發(fā)展的互聯(lián)網(wǎng)一方面拓展了未成年人學(xué)習(xí)、生活的空間,同時(shí)也引發(fā)了全社會(huì)對(duì)未成年人網(wǎng)絡(luò)保護(hù)問(wèn)題的關(guān)注。早在2020年,QQ就率先上線(xiàn)了適合網(wǎng)課場(chǎng)景使用的“學(xué)習(xí)模式”,并在同年9月將“學(xué)習(xí)模式”全面升級(jí)為“青少年模式”。截至目前,QQ在“游戲娛樂(lè)”、“消費(fèi)充值”、“廣告推送”、“短視頻內(nèi)容”等方面進(jìn)行80余次的持續(xù)優(yōu)化,全方位保護(hù)未成年人網(wǎng)絡(luò)安全。近期,QQ青少年模式新增了內(nèi)容分級(jí)能力,幫助未成年人在不同年齡段觸達(dá)更適合的知識(shí)內(nèi)容。
為給青少年用戶(hù)提供快捷、有效、有用的舉報(bào)能力,QQ特別增設(shè)了未成年人專(zhuān)屬快速舉報(bào)通道,并細(xì)化有害標(biāo)簽,一方面指引用戶(hù)順利完成舉報(bào),另一方面也確保平臺(tái)能以最快的速度核查處理涉未成年相關(guān)的舉報(bào)內(nèi)容。同時(shí),平臺(tái)舉報(bào)流程中還會(huì)為用戶(hù)提供快速報(bào)案指引,根據(jù)用戶(hù)地理位置為其提供最近的派出所信息及報(bào)警熱線(xiàn)。
未成年專(zhuān)屬舉報(bào)通道及報(bào)案指引
想要保護(hù)未成年用戶(hù)不受不良網(wǎng)絡(luò)信息的侵害,除了對(duì)平臺(tái)的技術(shù)產(chǎn)品和巡查處置能力提出要求,還需要進(jìn)一步培養(yǎng)未成年用戶(hù)的風(fēng)險(xiǎn)識(shí)別意識(shí)與抵制能力?；诖?QQ充分考慮其興趣和成長(zhǎng)需求,設(shè)置未成年人守護(hù)專(zhuān)區(qū),聯(lián)合內(nèi)外創(chuàng)新打造多形式的網(wǎng)絡(luò)安全教育、人文科技知識(shí)科普內(nèi)容和活動(dòng),并提供線(xiàn)上線(xiàn)下的專(zhuān)業(yè)幫助,為未成年人身心健康成長(zhǎng)保駕護(hù)航。
線(xiàn)上線(xiàn)下安全教育
平臺(tái)安全是一項(xiàng)長(zhǎng)期工作,QQ也將持續(xù)強(qiáng)化平臺(tái)責(zé)任擔(dān)當(dāng),提升平臺(tái)安全防護(hù)能力,持續(xù)治理違規(guī)行為和不良內(nèi)容,營(yíng)造良好的社區(qū)氛圍、保障用戶(hù)利益、提升用戶(hù)體驗(yàn)。QQ安全團(tuán)隊(duì)也呼吁廣大用戶(hù)如發(fā)現(xiàn)異常行為第一時(shí)間向平臺(tái)舉報(bào),共同維護(hù)良好的網(wǎng)絡(luò)秩序。
本文轉(zhuǎn)載自：，不代表科技訊之立場(chǎng)。原文鏈接：http://news.cnmtpt.com/?Sid=9749072_4920W253411551
