自動運転AIへのアドバーサリアル攻撃（敵対的攻撃）とその防御策

自動運転AIへのアドバーサリアル攻撃（敵対的攻撃）とその防御策とは

自動運転AIへのアドバーサリアル攻撃（敵対的攻撃）とは、AIの誤動作を誘発するために設計された、人間の目には認識しにくい微細な変更を加えた入力（画像、センサーデータなど）を指します。これは、自動運転車の認識システム（物体検出、標識認識など）を欺き、誤った判断を下させることを目的とします。例えば、停止標識にわずかな模様を追加するだけで、AIがそれを速度制限標識と誤認識する可能性があります。親トピックである「強化学習の自動運転」においてAI制御の性能向上が進む中で、このような敵対的攻撃は自動運転システムの信頼性と安全性を脅かす重大な課題です。防御策としては、AIモデルのロバスト性向上、データ拡張、敵対的訓練、異常検知技術の導入などが研究・開発されています。

このキーワードが属するテーマ