キーワード解説
Switch TransformerにみるAIのスパース・アクティベーションと1兆パラメータ超えの実現
Switch Transformerの事例を通して、MoEの根幹であるスパース・アクティベーションが1兆パラメータを超える超巨大AIモデルをいかに実現したかを解説します。
0 関連記事
Switch TransformerにみるAIのスパース・アクティベーションと1兆パラメータ超えの実現とは
親クラスター「混合エキスパート（MoE）」の解説よりSwitch Transformerの事例を通して、MoEの根幹であるスパース・アクティベーションが1兆パラメータを超える超巨大AIモデルをいかに実現したかを解説します。
このキーワードが属するテーマ
このキーワードに紐付く記事はまだありません