グラフニューラルネットワークを用いたAI学習データの汚染（Poisoning）検知

グラフニューラルネットワークを用いたAI学習データの汚染（Poisoning）検知とは

「グラフニューラルネットワークを用いたAI学習データの汚染（Poisoning）検知」とは、AIモデルの学習データセットに悪意を持って挿入された不正なデータ（ポイズニングデータ）を、グラフニューラルネットワーク（GNN）の特性を活用して識別し、排除する技術です。この手法では、学習データ間の関係性をグラフ構造として捉え、GNNを用いて異常なパターンや不審な接続を検知します。AIのセキュリティ脆弱性を発見し評価する「レッドチーミング」の一環として、学習データ汚染攻撃はAIモデルの信頼性や性能を著しく損なうため、その検知はAIシステムの安全性を確保する上で極めて重要です。特に、レコメンデーションシステムやソーシャルネットワーク分析など、本質的にグラフ構造を持つデータに対して有効性が期待されます。

このキーワードが属するテーマ