AncomWiki

ReturnZero Day 764: 헬름차트 변경 및 배치 처리 아키텍처 논의

Properties1
description2023-08-03 일지. ITN(Inverse Text Normalization) 관련 버그 수정(요청 파라미터 오류 및 예외 처리)과 배치 처리 시스템 도입을 위한 인프라 및 아키텍처 변경 사항을 기록함. Triton 서버를 공용으로 유지하되 별도 노드 추가를 통한 엔진셋 분리, MWW(UI) 측에서의 채널/좌석 관리 책임 이전, GRPC 연동 규격 및 테스트 계획(동시 채널 수에 따른 RTFX 측정)을 논의함.

36 min read

ReturnZero Day 764: 헬름차트 변경 및 배치 처리 아키텍처 논의

Source

  • Field Notes/ReturnZero/Daily Notes/Day 764. 2023-08-03.md

Summary

2023-08-03 일지. ITN(Inverse Text Normalization) 관련 버그 수정(요청 파라미터 오류 및 예외 처리)과 배치 처리 시스템 도입을 위한 인프라 및 아키텍처 변경 사항을 기록함. Triton 서버를 공용으로 유지하되 별도 노드 추가를 통한 엔진셋 분리, MWW(UI) 측에서의 채널/좌석 관리 책임 이전, GRPC 연동 규격 및 테스트 계획(동시 채널 수에 따른 RTFX 측정)을 논의함.

Key Points

  • ITN 작동 문제 해결: 요청 시 use_itn=False 설정 오류 수정 및 ITN 과정 중 예외 발생 방지 로직 추가.
  • 배치 처리 아키텍처: 실시간 성능 영향을 최소화하기 위해 별도 CPU/GPU 노드 추가 구축 및 엔진셋 분리 운영.
  • 역할 분담: Triton 서버는 공용 유지하되, 채널 분리, 전송, 좌석/과잉 채널 관리는 MWW(UI) 클라이언트에서 담당.
  • 연동 및 테스트: GRPC 인터페이스 유지, 추가 노드 구축 일정(다음 주 화요일까지), 동시 채널 수 변화에 따른 RTFX 영향도 테스트 계획.
  • 기타: 100 시간 제한(TTL) 관련 검토, AICO 실시간 녹음 건의 사항 기록.

그래프 뷰

백링크