發(fā)布時間:2019-09-28 點擊:741次
隨著人工智能的不斷發(fā)展與落地,用戶隱私問題越來越受到重視。近日,人工智能大數據公司因為違反相關法規(guī)而被罰巨額罰款,用戶隱私問題再次回歸大眾視野。人工智能企業(yè)在分享數據的同時應遵守哪些道德原則?隱私保護法規(guī)對于AI的發(fā)展與落地而言是機遇還是挑戰(zhàn)?更強大的數據保護法規(guī)是否會減緩AI的發(fā)展速度?在日前召開的第28屆國際人工智能聯合會議(IJCAI)上,業(yè)內專家提出了當今各行業(yè)在處理數據、實現AI落地需要共同面對的多個問題。
“在《通用數據保護條例》等隱私保護條款實施的前提下,數據處理與隱私保護并不是一場‘零和博弈’的關系,二者的關系需要被正確對待,以實現雙贏的局面?!比A盛頓大學教授、D。 E。 Shaw機器學習" target="_blank" web="1">機器學習團隊董事總經理兼負責人佩德羅·多明戈斯認為,企業(yè)在處理數據時,不要被數據的力量沖昏了頭腦,需要重點考慮用戶的知情權,承擔起相應的社會責任。
如何解決AI應用中出現的“數據孤島”和用戶隱私難題?國際人工智能聯合會議2019理事會主席、微眾首席人工智能官楊強給出了解決方案:“聯邦學習或是解決這兩個核心問題的同一個解決思路?!?/p>
什么是聯邦學習?“在保護數據隱私、滿足合法合規(guī)要求的前提下,繼續(xù)進行機器學習,這部分研究被稱為聯邦學習?!睏顝娬f,開始聯邦學習的背景是歐盟通過了《數據隱私保護條例》。該條例要求公司在使用數據前要先向用戶聲明模型的作用,這份條例的實行讓許多大數據公司在數據交流方面非常謹慎,這對于極度依賴數據的機器學習是一個巨大的挑戰(zhàn)。
“聯邦學習希望在不共享數據的前提下,麻辣小龍蝦生產線,利用雙方的數據實現模型增長?!睏顝娕e例,假設兩家公司想要建立一個用戶畫像模型,其中部分用戶是重合的。聯邦學習的做法是,首先通過加密交換的手段,建立用戶的識別符并進行溝通,口味小龍蝦生產線,在加密狀態(tài)下用減法找出共有的部分用戶。因為關鍵用戶信息并沒有得到交換,交換的只是共有的識別符,因此這并不違反《數據隱私保護條例》。然后,雙方將這部分數據提取出來,將各自擁有的同樣用戶的不同特征作為輸入,迭代地進行訓練模型、交換參數的過程。多項測試證明了給定模型參數,雙方不能互相反推出對方擁有的、自己沒有的特征,因此用戶隱私仍然得到了保護。在不違反《數據隱私保護條例》的情況下,雙方的模型性能都得到了提高。
“數據安全和用戶隱私目前已成為大數據時代的兩大挑戰(zhàn),對于金融、醫(yī)療及法律等數據敏感行業(yè)更甚,聯邦學習可以解決這兩大問題?!蔽⒈?span target="_blank" web="1">銀行AI部高級研究員劉洋介紹。
目前,聯邦學習已經應用于多個行業(yè)的業(yè)務板塊。未來,AI與用戶隱私的平衡問題會持續(xù)伴隨AI的發(fā)展。楊強表示,新一代的機器學習算法框架,需以保護隱私、安全合規(guī)為出發(fā)點,用透明的機制來保障人工智能的健康發(fā)展,聯邦學習的發(fā)展提供了新思路。