1
蘋果和所有的巨型企業(yè)一樣，想盡可能多地了解它的客戶。但它同時也把自己標(biāo)榜為硅谷的隱私冠軍，不像其廣告驅(qū)動的競爭對手，希望盡可能少地了解你。該公司目前公開吹噓其在數(shù)學(xué)上一個不起眼的分支，正在成功處理這種矛盾。
北京時間今天凌晨，在蘋果全球開發(fā)者主題演講中，軟件工程高級副總裁Craig Federighi，強調(diào)蘋果并不收集用戶資料，iMessage和Facetime的加密都是點對點的，計算盡量在你的個人設(shè)備而不是蘋果的服務(wù)器上完成。但Federighi也承認(rèn)，事實上，尤其是在大數(shù)據(jù)分析和機器學(xué)習(xí)的時代，收集用戶信息對做出好的軟件至關(guān)重要。他給出的答案相當(dāng)含糊：“微分隱私”（differential privacy）。
“我們認(rèn)為你應(yīng)該有強大的功能和十足的隱私，”Federighi告訴開發(fā)者人群。 “微分隱私是在統(tǒng)計和數(shù)據(jù)分析方面的研究課題，它使用散列，二次抽樣和噪聲注入，使眾包學(xué)習(xí)成為可能，同時保持個人用戶的數(shù)據(jù)完全私密。蘋果一直在這方面做著超級重要的工作，以使微分隱私能大規(guī)模運用?！?/p>
微分隱私，從蘋果的發(fā)言翻譯過來，就是盡可能多研究一群人，同時盡可能少地研究任何個人的統(tǒng)計科學(xué)。有了微分隱私，蘋果可以收集、存儲其用戶的數(shù)據(jù)，從而收集有用的概念，比如說，人們喜歡和想要的東西。但它不能提取關(guān)于某個人單一的、特定的東西，因為這可能代表了侵犯隱私。而且，在理論上，黑客或情報機構(gòu)也不能。
“有了大型數(shù)據(jù)集包括個人的記錄，你可能想把數(shù)據(jù)庫作為一個整體，運行一個機器學(xué)習(xí)算法，獲得統(tǒng)計的見解，但要防止一些旁觀者或攻擊者，在數(shù)據(jù)集了解到一些特定的[個人]信息?！辟e夕法尼亞大學(xué)的計算機科學(xué)教授Aaron Roth說，F(xiàn)ederighi在主題演講中提到Roth寫了一本關(guān)于微分隱私的書。（該書為Algorithmic Foundations of Differential Privacy《微分隱私算法的基礎(chǔ)》由Roth與微軟研究員Cynthia Dwork所寫。）“微分隱私可以讓你從大型數(shù)據(jù)集獲得見解，但數(shù)學(xué)證明了，沒有人可以了解其中的個體?！?/p>
Roth指出，所謂的“數(shù)學(xué)證明”，微分隱私并不僅僅試圖混淆或“匿名”用戶的數(shù)據(jù)。他認(rèn)為，這種匿名的做法，往往會失敗。例如，在2007年，Netflix發(fā)布了觀眾的電影分級數(shù)據(jù)的大集合，消除了人們的姓名和其他身份細(xì)節(jié)，只公布了他們的Netflix評級，作為比賽的一部分，以優(yōu)化其建議。但研究者很快將Netflix的數(shù)據(jù)與IMDB公眾審查數(shù)據(jù)交叉對比，找出類似的模式，并添加名稱回Netflix所謂的匿名數(shù)據(jù)庫。
對于那種去匿名招數(shù)也有對策，比如說，消除了Netflix的電影標(biāo)題，只保持他們的流派。但是也不能保證其他一些聰明的技巧或交叉對比數(shù)據(jù)不能撤消混淆。 “如果你從數(shù)據(jù)中刪除人們的名字，也不會停止聰明的人交叉對比。”羅斯說。 “可是微分隱私可以阻止這樣的事情。”
Roth解釋，微分隱私旨在數(shù)學(xué)上證明，某種形式的數(shù)據(jù)分析不能揭示任何個體，不管是否具有任何給定的私人數(shù)據(jù)輸入，一個算法的輸出保持相同。羅斯說。 “因為微分隱私具有可證明的保證，打破了循環(huán)。所以它是未來的防護?！?/p>
Federighi一直強調(diào)微分隱私，可能意味著蘋果實際上，在給它的服務(wù)器發(fā)送更多的數(shù)據(jù)，以進行進行分析，就像谷歌、Facebook和所有其他科技公司一樣。但是Federighi暗示蘋果只通過變換、微分、私人的形式傳輸數(shù)據(jù)。事實上，F(xiàn)ederighi將三個變換命名為：散列法，一個不可逆地將數(shù)據(jù)轉(zhuǎn)化成唯一、隨機的字符串的加密功能；二次采樣，或只采取數(shù)據(jù)的一部分；和噪聲注入，加入隨機數(shù)據(jù)，掩蓋了真正的、敏感的個人信息的。
當(dāng)WIRED問及蘋果如何應(yīng)用微分的更多信息時，蘋果代表的答復(fù)只提到了iOS 10預(yù)覽指南，介紹了如何將技術(shù)用在最新版本的iOS上：
從iOS 10開始，蘋果采用微分隱私技術(shù)，以發(fā)現(xiàn)大量用戶的使用模式，而不損害個人隱私。為了掩蓋一個人的身份，微分隱私把數(shù)學(xué)噪聲增加個人使用模式的小樣本中。隨著越來越多人用同樣的模式，便開始出現(xiàn)通用模式，它可以通知和提升用戶體驗。在iOS 10，這一技術(shù)將有助于提高快速打字和emoji建議，聚焦深度鏈接的建議和在Notes中查找提示。
蘋果在采用微分隱私技術(shù)時，是否帶著必要的嚴(yán)謹(jǐn)性，充分保護客戶的隱私，這是另外一個問題。
via wired
雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。
