RAG（検索拡張生成）による回答生成時の機密情報漏洩防止ガードレール

RAG（検索拡張生成）による回答生成時の機密情報漏洩防止ガードレールとは

「RAG（検索拡張生成）による回答生成時の機密情報漏洩防止ガードレール」とは、大規模言語モデル（LLM）が外部データソースを参照して回答を生成する際（RAGプロセス）に、意図しない機密情報や個人情報の漏洩を防ぐための仕組み全般を指します。具体的には、参照データのアクセス制御、出力情報のフィルタリング、不適切なプロンプトの検出とブロック、匿名化処理などが含まれます。これは、コールセンターAIのような機密性の高い情報を扱うシステムにおいて、顧客データの保護とコンプライアンス遵守を確保するための不可欠なセキュリティ対策であり、「コールセンターAIのセキュリティ対策」における重要な要素の一つです。

このキーワードが属するテーマ