基于標簽的無數據的成員推理攻擊
網絡安全與數據治理 2023年第5期
楊盼盼，張信明
（中國科學技術大學計算機科學與技術學院，安徽合肥230026）
摘要： 成員推理攻擊根據模型的預測結果推斷特定記錄是否為模型的訓練數據成員，在隱私保護等領域具有重要應用意義。現有的基于標簽的無數據的成員推理攻擊方法主要利用對抗樣本技術，存在查詢和計算成本較高的問題。對此提出一種新的成員推理攻擊方法，該方法利用影子模型來減少多次攻擊的查詢代價，并提出數據篩選與優化策略以提高攻擊模型的性能。實驗在兩個常見的圖像數據集上進行，結果表明該方法同時具有較高的攻擊成功率和較低的查詢成本。
中圖分類號：TP181
文獻標識碼：A
DOI:10.19358/j.issn.2097-1788.2023.05.008
引用格式：楊盼盼，張信明.基于標簽的無數據的成員推理攻擊［J］.網絡安全與數據治理，2023，42（5）：44-49.
文獻標識碼：A
DOI:10.19358/j.issn.2097-1788.2023.05.008
引用格式：楊盼盼，張信明.基于標簽的無數據的成員推理攻擊［J］.網絡安全與數據治理，2023，42（5）：44-49.
Label-based data-free membership inference attack
Yang Panpan，Zhang Xinming
(School of Computer Science and Technology, University of Science and Technology of China, Hefei 230026, China)
Abstract： Membership inference attack infers whether a specific record is a training data member of a model based on the model′s prediction results, which has important application significance in the field of privacy protection. Existing labelbased datafree membership inference attack methods mainly use adversarial sample technology, which has a high query and computation cost. This paper proposed a new membership inference attack method that uses a shadow model to reduce the query cost of multiple attacks, and proposed data filtering and optimization strategies to improve the performance of the attack model. Experiments were conducted on two commonly used image datasets, and the results showed that the proposed method has both a high attack success rate and a low query cost.
Key words : membership inference attack; datafree; labelbased
0 引言
目前很多機器學習模型以服務的形式對外提供查詢接口，返回模型的預測結果。這些模型很容易受到成員推理攻擊。成員推理攻擊是一種針對機器學習模型的隱私攻擊，主要目的是根據模型的預測結果，推斷特定記錄是否為模型的訓練數據成員。成員推理攻擊在實際應用中具有重要的意義，例如在隱私保護領域中，攻擊者可能通過成員推理攻擊來揭示個人數據是否包含在某個模型的訓練數據中。
本文詳細內容請下載：http://www.cowatch.cn/resource/share/2000005333
作者信息：
楊盼盼，張信明
（中國科學技術大學計算機科學與技術學院，安徽合肥230026）
此內容為AET網站原創，未經授權禁止轉載。