Categories
程式開發

隱私AI框架中的數據流動與工程實現


在上一篇文章中,我們介紹了,對於安全技術開發者,如何快速的基於 羅塞塔 等隱私AI 框架所提供的一系列接口,將自己的安全協議集成落地到上層的AI 應用中來。在這一篇文章中,我們將介紹為了保護用戶的隱私數據,在隱私AI 框架的計算任務全流程中,數據是如何以密文形式流動,同時仍正確完成加法、乘法等計算步驟的。

隱私AI 系統存在的目的就是賦能AI,使得各種AI 場景下對用戶隱私數據的使用都是安全的。那麼,這樣的系統就需要提供充分的保障,從理論到工程實現的每一個階段都應該是經得起推敲、抵抗得住各種攻擊的。不能簡單的認為只需要各方先在本地自己的數據上計算出一個模型,然後將模型結果交換一下計算下其模型參數的平均值,就不會洩露各方的隱私數據了。現代密碼學(Cryptography)是建立在嚴格的數學定義、計算複雜度假設和證明基礎之上的,其中MPC (Multi-Party Computation)方向是專門研究多個參與方如何正確、安全的進行聯合計算的子領域, 羅塞塔TF加密 等隱私AI框架都採用了MPC 技術以提供可靠的安全性。下面我們就結合具體案例看的看下在Rosetta 中隱私數據是如何得到安全保護的。

原文鏈接:【https://www.infoq.cn/article/QO2LTgqDFr3AItJTBsp4】。未經作者許可,禁止轉載。