AncomWiki

ITN 성능 시험 및 VAD 통합 테스트 진행 (Day 667)

Properties1
description2023-04-28 일지. Neural-ITN 모델의 성능 시험(Throughput, Latency 측정) 및 관련 쉘 스크립트 자동화 작업을 진행함. 또한 Pronaia 엔진, Frontend, Triton(VAD, ITN), Redis 등을 포함한 E2E 통합 테스트 환경(Docker-compose) 구축 및 VAD 임계값 테스트를 수행함. 부가적으로 Qoo10 데이터 전처리 방법론(노말라이즈, 타임스탬프 처리)과 Pro…

37 min read

ITN 성능 시험 및 VAD 통합 테스트 진행 (Day 667)

Source

  • Field Notes/ReturnZero/Daily Notes/Day 667. 2023-04-28.md

Summary

2023-04-28 일지. Neural-ITN 모델의 성능 시험(Throughput, Latency 측정) 및 관련 쉘 스크립트 자동화 작업을 진행함. 또한 Pronaia 엔진, Frontend, Triton(VAD, ITN), Redis 등을 포함한 E2E 통합 테스트 환경(Docker-compose) 구축 및 VAD 임계값 테스트를 수행함. 부가적으로 Qoo10 데이터 전처리 방법론(노말라이즈, 타임스탬프 처리)과 Pronaia의 타임스탬프 반환 옵션 추가 작업을 기록함.

Key Points

  • Neural-ITN 성능 시험: Concurrency 1024 기준 Throughput 651.429 infer/sec, Latency 1548947 usec 측정. Throughput 포화 시 Queue/메모리 증가 현상 확인.
  • ITN 환경 구축: dadumi(워커용)와 trt-python-py3-rtnlp 패키지의 역할 구분 및 핫픽스 적용.
  • VAD 통합 테스트: Pronaia-Frontend-Triton(Redis, VAD, ITN)-Worker 아키텍처의 E2E 테스트 진행. David 테스트 기준 threshold 0.5, 거리 약 1m 조건 확인.
  • Qoo10 데이터 처리: 특수문자 제거 등 노말라이즈 후 reasonspeech 적용. rt-norm 관련 정규화 함수(remove_parenthesis 등) 검토.
  • Pronaia 기능 개선: 요청 옵션에 ‘timestamp’ 플래그 추가하여 ITN 결과에 타임스탬프(‘words’)를 선택적으로 반환하도록 수정.

그래프 뷰

백링크