Triton-Kaldi 컨테이너 버전 업그레이드 및 성능 관찰

Source

  • Field Notes/ReturnZero/Daily Notes/Day 230. 2022-02-15.md

Summary

Triton-Kaldi 환경에서 컨테이너 및 Kaldi 버전을 22.01로 업그레이드하여 Dynamic Batcher 성능 개선을 시도함. 결과적으로 GPU 사용률은 증가했으나 메모리 불안정성으로 인해 배치 크기를 축소해야 했음.

Key Points

  • Triton-Kaldi 컨테이너 및 Kaldi 버전을 21.09에서 22.01로 업그레이드
  • Dynamic Batcher 성능 개선 기대에 따른 변경
  • 업그레이드 후 GPU 사용률 증가 확인
  • 메모리 불안정성 발생으로 배치 크기(batch size) 축소 필요