敵対的摂動（Adversarial Perturbations）に対するAIの堅牢性テスト手法

敵対的摂動（Adversarial Perturbations）に対するAIの堅牢性テスト手法とは

敵対的摂動（Adversarial Perturbations）に対するAIの堅牢性テスト手法とは、AIモデルが意図的に加えられた微細な入力変更、すなわち敵対的摂動に対して、その性能や判断をどれだけ維持できるかを評価し、検証するための技術やプロセスを指します。これらの摂動は人間には知覚しにくい程度の変化であるにもかかわらず、AIモデルを誤分類させたり、誤った行動を誘発したりする可能性があります。本手法は、自動運転、医療診断、金融取引など、高い信頼性が求められるAIシステムにおいて、その安全性と信頼性を確保するために不可欠です。親トピックである「トラストAI」の文脈では、AIの倫理的かつ安全な運用を実現するためのセキュリティ対策の一環として、その中心的な役割を担っています。これにより、AIが予期せぬ入力に対して脆弱でないことを確認し、実社会での導入におけるリスクを低減することを目指します。

このキーワードが属するテーマ