人間によるデータアノテーション時の敵対的サンプルをAIで識別するフィルタリング技術

人間によるデータアノテーション時の敵対的サンプルをAIで識別するフィルタリング技術とは

「人間によるデータアノテーション時の敵対的サンプルをAIで識別するフィルタリング技術」とは、機械学習モデルの訓練データを作成するアノテーションプロセスにおいて、人間が意図せず、あるいは悪意を持って生成・混入させてしまう可能性のある「敵対的サンプル」を、AIを用いて自動的に検出し除去する技術です。敵対的サンプルは、AIモデルの性能を低下させたり、誤った振る舞いを引き起こしたりするよう巧妙に設計されたデータであり、高品質なアノテーションがAIモデルの信頼性を左右する中で、その混入は深刻な問題となります。この技術は、AIサプライチェーンにおけるデータ品質とセキュリティを担保し、より堅牢で信頼性の高いAIシステム構築に貢献します。具体的には、アノテーション済みデータがモデルに渡される前に、異常検知AIなどが不審なパターンを識別し、疑わしいサンプルを自動的に排除またはフラグ付けします。

このキーワードが属するテーマ