Смотреть видео: Делаем инференс на Nvidia Triton Inference Server / Habr