ディープフェイク・ポルノの拡散を自動遮断するAI画像モデレーションの精度

ディープフェイク・ポルノの拡散を自動遮断するAI画像モデレーションの精度とは

「ディープフェイク・ポルノの拡散を自動遮断するAI画像モデレーションの精度」とは、人工知能が生成した虚偽のポルノ画像（ディープフェイク・ポルノ）を、SNSやプラットフォーム上で自動的に検出し、拡散を阻止するシステムの性能指標を指します。この精度は、不適切なコンテンツを的確に識別し（検出率）、同時に誤って正常なコンテンツをブロックしない（誤検出率の低さ）能力によって評価されます。親トピックである「SNSの拡散被害」対策において、悪意あるコンテンツが急速に広がるのを食い止める上で、AIモデレーションの精度向上は極めて重要な課題とされています。

このキーワードが属するテーマ