キーワード解説
Early Exit（早期終了）アーキテクチャを用いた深層学習モデルの推論レイテンシ削減
モデルが自信を持って予測できる場合に早期に推論を終了させ、計算リソースを節約しレイテンシを削減するアーキテクチャを解説します。
0 関連記事
Early Exit（早期終了）アーキテクチャを用いた深層学習モデルの推論レイテンシ削減とは
親クラスター「画像認識の推論速度最適化」の解説よりモデルが自信を持って予測できる場合に早期に推論を終了させ、計算リソースを節約しレイテンシを削減するアーキテクチャを解説します。
このキーワードが属するテーマ
このキーワードに紐付く記事はまだありません