mww 운영계 배포 아키텍처 및 구성 요소

Source

  • Field Notes/ReturnZero/Daily Notes/Day 924. 2024-01-11.md

Summary

본 노트는 mww 서비스의 운영 환경 배포를 위한 기술적 준비 사항을 기록한 것이다. 주요 내용은 GRPC 환경 변수 설정을 통한 테스트 실행 명령어와, 운영 시스템의 핵심 구성 요소(License Proxy, OpenAPI-Online, Triton, SIMS 등)에 대한 아키텍처 설명이다. 특히 각 컴포넌트의 역할, 컨테이너 구성, 헬스체크 포트 및 엔드포인트, 그리고 서비스 간 연결 관계와 볼륨 마운트 정보를 상세히 기술하고 있다.

Key Points

  • mww 운영계 배포를 위한 GRPC 환경 변수 설정 및 테스트 실행 스크립트 기록
  • License Proxy: 라이선스 유효성 및 동시 채널 관리, 오프라인 시 7일 동작 보장
  • OpenAPI-Online: 클라이언트 요청 수신 및 엔진으로의 전달, 3개 컨테이너(openapi, engine, app-log) 구성
  • Triton Inference Server: 음성 인식 추론 처리 담당, HTTP 기반 헬스체크
  • 서비스 간 연결: License Proxy(19874), OpenAPI-Online(80), Triton 서비스 매핑
  • 볼륨 구성: Triton 파드의 모델 적재를 위한 hostPath(/app/vito/models) 사용