自動運転AIへの敵対的攻撃（Adversarial Attacks）を防ぐセキュリティ技術

自動運転AIへの敵対的攻撃（Adversarial Attacks）を防ぐセキュリティ技術とは

自動運転AIへの敵対的攻撃（Adversarial Attacks）を防ぐセキュリティ技術とは、自動運転システムに搭載されたAIモデルが、人間には知覚できないか、または軽微な変化を加えた入力データによって誤認識や誤動作を起こす「敵対的攻撃」から、その安全と信頼性を保護するための技術群です。これは、標識の認識を誤らせたり、歩行者の検出を妨害したりするなど、自動運転車の重大な事故につながる可能性があり、デジタル空間だけでなく物理空間での攻撃も想定されます。親トピックである「エッジAIの自動運転」において、車両のエッジデバイス上でリアルタイムにAI推論が行われるため、攻撃は即座にシステム全体に影響を及ぼす可能性があり、そのためにも堅牢なセキュリティ技術の導入が不可欠とされています。防御技術には、AIモデル自体のロバスト性向上、敵対的サンプルの検出、そして攻撃への耐性を高めるための様々なアプローチが含まれます。

このキーワードが属するテーマ