AncomWiki

ReturnZero Day 903: 모델 최적화 시도 및 성능 벤치마크

Properties1
description2023-12-20 일지. sommers-e2e 모델의 ONNX 변환(동적 shape) 및 TensorRT 적용을 시도했으나, 변환 과정에서 에러 발생 및 성능 저하 문제가 확인됨. STFT 단계별 분석 및 ITN(숫자/영숫자) 규칙 확인 중. 다양한 카타카나 테스트셋(mww_katakana 등)에 대한 실시간 인덱스(RTFx), 문자 오류율(CER), 문장 오류율(SER) 벤치마크 결과를 기록함.

36 min read

ReturnZero Day 903: 모델 최적화 시도 및 성능 벤치마크

Source

  • Field Notes/ReturnZero/Daily Notes/Day 903. 2023-12-20.md

Summary

2023-12-20 일지. sommers-e2e 모델의 ONNX 변환(동적 shape) 및 TensorRT 적용을 시도했으나, 변환 과정에서 에러 발생 및 성능 저하 문제가 확인됨. STFT 단계별 분석 및 ITN(숫자/영숫자) 규칙 확인 중. 다양한 카타카나 테스트셋(mww_katakana 등)에 대한 실시간 인덱스(RTFx), 문자 오류율(CER), 문장 오류율(SER) 벤치마크 결과를 기록함.

Key Points

  • sommers-e2e 모델의 padding 제거 및 동적 shape ONNX 변환 시도 (에러 및 성능 저하 발생)
  • TensorRT 동적 shape 적용 계획
  • STFT 단계별 분석 및 ITN 규칙(숫자/영숫자 매핑) 검토
  • 단일 오디오 파일 온라인 실험 수행
  • 다양한 카타카나 테스트셋(mww_katakana_name, mww_test_1005 등)에 대한 RTFx, CER, SER 벤치마크 결과 기록

그래프 뷰

백링크