AIモデルへのメンバシップ推論攻撃を防御する差分プライバシーのパラメータ設計

AIモデルへのメンバシップ推論攻撃を防御する差分プライバシーのパラメータ設計とは

AIモデルへのメンバシップ推論攻撃を防御する差分プライバシーのパラメータ設計とは、機械学習モデルの訓練データに特定の個人データが含まれているか否かを外部の攻撃者が推測する「メンバシップ推論攻撃」を防ぐため、差分プライバシーを適用する際のノイズ量や予算（ε, δ）といったパラメータを適切に設定するプロセスです。これは、プライバシー保護とモデルの有用性との間の重要なトレードオフを最適化することを目的とします。親トピックである「差分プライバシー」がデータ保護の理論的基盤を提供する一方で、本パラメータ設計はその理論をAIセキュリティの具体的な脅威であるメンバシップ推論攻撃に対して実践的に適用し、効果的な防御を実現するための技術的課題を扱います。

このキーワードが属するテーマ