ファインチューニング時の「破滅的忘却」を防止するAI学習アルゴリズム

ファインチューニング時の「破滅的忘却」を防止するAI学習アルゴリズムとは

ファインチューニング時の「破滅的忘却」を防止するAI学習アルゴリズムとは、深層学習モデルが新しいデータセットやタスクで追加学習（ファインチューニング）される際に、それまで学習した古い知識や能力を忘れてしまう現象（破滅的忘却）を抑制するための手法群を指します。画像認識分野におけるファインチューニングでは、事前に学習された汎用モデルを特定のタスクに特化させることが一般的ですが、この際に既存の認識能力が損なわれるリスクがあります。これらのアルゴリズムは、新旧の知識をバランス良く保持し、モデルの柔軟性と安定性を両立させることを目的としています。例えば、正則化ベースの手法や、過去のデータを一部再利用するリプレイ戦略などが研究・実用化されています。

このキーワードが属するテーマ