こんにちは、AnyTechの赤川です。 この記事では、PyTorchとPyTorchのC/C++版であるLibTorchとの間で比較検証を行い、LibTorchの採用がもたらすモデルの推論速度の改善度合いについて、考察しました。 背景 PyTorchはPythonicな記述でモデル開発ができ、エコ…