讓聯(lián)邦學(xué)習(xí)從可用到好用！阿里開(kāi)源最新隱私保護(hù)計(jì)算框架FederatedScope

5月5日，阿里巴巴達(dá)摩院發(fā)布新型聯(lián)邦學(xué)習(xí)框架FederatedScope，該框架支持大規(guī)模、高效率的聯(lián)邦學(xué)習(xí)異步訓(xùn)練，能兼容不同設(shè)備運(yùn)行環(huán)境，且提供豐富功能模塊，大幅降低了隱私保護(hù)計(jì)算技術(shù)開(kāi)發(fā)與部署難度。該框架現(xiàn)已面向全球開(kāi)發(fā)者開(kāi)源。

隱私保護(hù)是數(shù)字經(jīng)濟(jì)的安全底座，如何在保障用戶數(shù)據(jù)隱私的同時(shí)提供高質(zhì)量連通服務(wù)，成為數(shù)字經(jīng)濟(jì)時(shí)代的重要技術(shù)課題。為破解隱私保護(hù)與數(shù)據(jù)應(yīng)用的兩難，以“數(shù)據(jù)不動(dòng)模型動(dòng)”為理念的聯(lián)邦學(xué)習(xí)框架應(yīng)運(yùn)而生，其通過(guò)用戶數(shù)據(jù)不出本地的方式完成云端模型訓(xùn)練，實(shí)現(xiàn)了“數(shù)據(jù)可用不可見(jiàn)”。近年來(lái)，聯(lián)邦學(xué)習(xí)成為隱私保護(hù)計(jì)算主流技術(shù)之一。

然而，隨著需應(yīng)用隱私保護(hù)計(jì)算的場(chǎng)景和行業(yè)日趨多元，涉及到的數(shù)據(jù)類型日趨豐富，已有聯(lián)邦學(xué)習(xí)框架難以靈活高效地滿足現(xiàn)實(shí)中越來(lái)越復(fù)雜的計(jì)算需要，需從注重“可用”到注重“好用”。

為解決上述挑戰(zhàn)，達(dá)摩院智能計(jì)算實(shí)驗(yàn)室研發(fā)了新型聯(lián)邦學(xué)習(xí)框架FederatedScope，該框架使用事件驅(qū)動(dòng)的編程范式來(lái)構(gòu)建聯(lián)邦學(xué)習(xí)，即將聯(lián)邦學(xué)習(xí)看成是參與方之間收發(fā)消息的過(guò)程，通過(guò)定義消息類型以及處理消息的行為來(lái)描述聯(lián)邦學(xué)習(xí)過(guò)程。通過(guò)這一方式，F(xiàn)ederatedScope實(shí)現(xiàn)了支持在豐富應(yīng)用場(chǎng)景中進(jìn)行大規(guī)模、高效率的聯(lián)邦學(xué)習(xí)異步訓(xùn)練。

同時(shí)，達(dá)摩院團(tuán)隊(duì)對(duì)FederatedScope訓(xùn)練模塊進(jìn)行抽象，使其不依賴特定的深度學(xué)習(xí)后端，能兼容PyTorch、Tensorflow等不同設(shè)備運(yùn)行環(huán)境，大幅降低了聯(lián)邦學(xué)習(xí)在科研與實(shí)際應(yīng)用中的開(kāi)發(fā)難度和成本。

為進(jìn)一步適應(yīng)不同應(yīng)用場(chǎng)景，F(xiàn)ederatedScope還集成了多種功能模塊，包括自動(dòng)調(diào)參、隱私保護(hù)、性能監(jiān)控、端模型個(gè)性化等。FederatedScope支持開(kāi)發(fā)者通過(guò)配置文件便捷地調(diào)用集成模塊，方便快速入門；也允許通過(guò)注冊(cè)的方式添加新的算法實(shí)現(xiàn)并調(diào)用，支持定制化及深度開(kāi)發(fā)。

達(dá)摩院智能計(jì)算實(shí)驗(yàn)室隱私保護(hù)計(jì)算團(tuán)隊(duì)負(fù)責(zé)人丁博麟表示，“數(shù)據(jù)已成為重要的生產(chǎn)要素，而隱私保護(hù)計(jì)算是保障這一要素發(fā)揮作用的關(guān)鍵技術(shù)。通過(guò)開(kāi)源最新聯(lián)邦學(xué)習(xí)框架，我們希望促進(jìn)隱私保護(hù)計(jì)算在研究和生產(chǎn)中的廣泛應(yīng)用，讓醫(yī)藥研發(fā)、政務(wù)互通、人機(jī)交互等數(shù)據(jù)密集領(lǐng)域更安全、更順暢地發(fā)展。”

Gartner相關(guān)報(bào)告顯示，到2025年之前，約60%的大型企業(yè)預(yù)計(jì)將應(yīng)用至少一種隱私保護(hù)計(jì)算技術(shù)。達(dá)摩院2022十大科技趨勢(shì)同樣將隱私保護(hù)計(jì)算列為重要趨勢(shì)，認(rèn)為該技術(shù)將從覆蓋少量數(shù)據(jù)的場(chǎng)景走向全域保護(hù)，從而激發(fā)數(shù)字時(shí)代的新生產(chǎn)力。