プロンプトインジェクションに対するAIセキュリティ耐性の自動評価手法

プロンプトインジェクションに対するAIセキュリティ耐性の自動評価手法とは

悪意のあるプロンプトによってAIモデルが意図しない動作をする「プロンプトインジェクション」に対し、モデルがどれだけ耐性を持つかを自動的に評価する技術を紹介します。

このキーワードが属するテーマ