AncomWiki

Sims K8s 환경에서 STT 서비스 리소스 사용량 측정 (ITN/PII 영향 분석)

Properties1
description이 노트는 Sims Kubernetes 환경에서 STT(음성인식) 서비스의 CPU 및 메모리 사용량을 측정하기 위한 실험 기록이다. 특히 ITN(Inverse Text Normalization)과 PII(Personal Identifiable Information) 모듈 추가 시 리소스 소비 추이를 비교 분석하는 것이 목적이며, 현재 Set 1(기존), Set 2(ITN 추가), Set 3(PII 추가) 단계의 측정 데이터와…

40 min read

Sims K8s 환경에서 STT 서비스 리소스 사용량 측정 (ITN/PII 영향 분석)

Source

  • Field Notes/ReturnZero/Daily Notes/Day 1107. 2024-07-12.md

Summary

이 노트는 Sims Kubernetes 환경에서 STT(음성인식) 서비스의 CPU 및 메모리 사용량을 측정하기 위한 실험 기록이다. 특히 ITN(Inverse Text Normalization)과 PII(Personal Identifiable Information) 모듈 추가 시 리소스 소비 추이를 비교 분석하는 것이 목적이며, 현재 Set 1(기존), Set 2(ITN 추가), Set 3(PII 추가) 단계의 측정 데이터와 관련 명령어, 컨테이너별 리소스 사용 현황이 기록되어 있다.

Key Points

  • Sims K8s 환경에서 150 채널 동시 연결(concurrent=150) 조건으로 STT 서비스 리소스 측정 실험 진행
  • ITN 및 PII 모듈의 추가에 따른 CPU/메모리 사용량 증가 추이를 단계별(Set 1~4)로 비교 분석 중
  • Triton Server, Envoy, Online-BMT 등 주요 컴포넌트별 리소스 사용 현황 모니터링 및 기록
  • RockyLinux 8.10 기반 GPU 환경(NVIDIA Triton Server min 이미지) 준비 및 Grafana 모니터링 설치 진행
  • 실험 데이터는 /raid/sims-k8s/evaluate/models 디렉토리에 저장 예정

그래프 뷰

백링크