AncomWiki

릴단 파드 및 Triton Server 배치 구성 (Helm Values)

Properties1
description이 노트는 '릴단' 서비스의 파드와 Triton Server를 위한 Helm 차트 `values` 파일 내 `batch` 항목 신설을 제안한다. 공통 설정(이미지, 리소스 등)과 함께 VAD, E2E, SD 등 하위 마이크로서비스 URL 및 라이선스 정보를 환경변수로 자동 주입하는 구조를 정의한다. 또한 utterance 저장 관련 설정과 큐/워커 규모 조정 파라미터를 명시하고, 파이프라인 정보의 SIMS 반영 방안을 고민하…

39 min read

릴단 파드 및 Triton Server 배치 구성 (Helm Values)

Source

  • Field Notes/ReturnZero/Daily Notes/Day 1304. 2025-01-24.md

Summary

이 노트는 ‘릴단’ 서비스의 파드와 Triton Server를 위한 Helm 차트 values 파일 내 batch 항목 신설을 제안한다. 공통 설정(이미지, 리소스 등)과 함께 VAD, E2E, SD 등 하위 마이크로서비스 URL 및 라이선스 정보를 환경변수로 자동 주입하는 구조를 정의한다. 또한 utterance 저장 관련 설정과 큐/워커 규모 조정 파라미터를 명시하고, 파이프라인 정보의 SIMS 반영 방안을 고민하는 문제의식을 담고 있다.

Key Points

  • Helm values에 batch 섹션 신설을 통해 릴단 파드와 Triton Server의 공통 설정(이미지, 시크릿, 보안 컨텍스트 등)을 통합 관리
  • VAD_URL, E2E_URL 등 마이크로서비스 엔드포인트와 LICENSE_KEY는 환경변수를 통해 자동 설정하여 구성 유연성 확보
  • Utterance 저장 정책(샘플링 임계값, 백업 경로, 주기) 및 큐/워커 크기(queueSize, workers)를 환경변수로 노출하여 동적 조정 가능
  • 파드는 공통 볼륨(utterance_save_volume)을 재사용하며, 파이프라인 정보의 SIMS 시스템 반영 방법이 향후 해결 과제

그래프 뷰

백링크