AIxiv專欄是機器之心釋出學術、技術內容的欄目。過去數年,機器之心AIxiv專欄接收報導了2000多篇內容,覆蓋全球各大高校與企業的頂級實驗室,有效促進了學術交流與傳播。如果您有優秀的工作想要分享,歡迎投稿或者聯絡報導。投稿郵箱:liyazhou@jiqizhixin.com;zhaoyunfeng@jiqizhixin.com
arXiv地址:https://arxiv.org/pdf/2404.17399
GitHub程式碼:https://github.com/ethz-spylab/misleading-privacy-evals
論文標題:Evaluations of Machine Learning Privacy Defenses are Misleading
關注的是群體層面的平均隱私,但對最「脆弱」資料的隱私卻關注甚少。但 privacy 並不應該是一個平均的指標!
使用很弱的、 非自適應的攻擊。沒有針對具體防禦,做適應性攻擊。
與模型效能過差的 DP 差分隱私方法進行相比,這種比較方式不夠公平,容易誤導人們對模型隱私保護效果的判斷。