AncomWiki

신한카드 프로젝트: GPU 모니터링 및 화자분리 파이프라인 구축 검토

Properties1
description신한카드 프로젝트의 진행 상황을 기록한 일지이다. 주요 작업으로 GPU Operator(DCGM Exporter)의 Prometheus ServiceMonitor 설정 확인, Triton Inference Server 포트 개방, 그리고 화자분리(Speaker Diarization) 모듈의 설치 방안 검토가 포함된다. 화자분리 도입을 위해 운영 환경에 파이프라인을 추가하는 방식과 학습/평가 환경에 별도 설치하는 방식의 장단점…

41 min read

신한카드 프로젝트: GPU 모니터링 및 화자분리 파이프라인 구축 검토

Source

  • Field Notes/ReturnZero/Daily Notes/Day 1231. 2024-11-12.md

Summary

신한카드 프로젝트의 진행 상황을 기록한 일지이다. 주요 작업으로 GPU Operator(DCGM Exporter)의 Prometheus ServiceMonitor 설정 확인, Triton Inference Server 포트 개방, 그리고 화자분리(Speaker Diarization) 모듈의 설치 방안 검토가 포함된다. 화자분리 도입을 위해 운영 환경에 파이프라인을 추가하는 방식과 학습/평가 환경에 별도 설치하는 방식의 장단점(리소스 효율성 vs 제거 용이성, 라이선스 문제)을 비교 분석하고 있다.

Key Points

  • GPU 모니터링: nvidia-dcgm-exporter에 대한 ServiceMonitor 설정 (30s interval) 및 Triton 8002 포트 개방 필요.
  • 화자분리 도입 검토: 파일 복사 시 CronJob을 통한 online-bmt 전사 결과 저장 시나리오 구성.
  • 설치 방안 비교: 1) 운영 파이프라인 추가 (리소스 낭비 우려, 제거 어려움), 2) 학습용 환경 별도 설치 (라이선스 프록시 제약, 제거 어려움).
  • 미정 사항: 처리 파일량 및 채널 수에 따른 응답 속도 이슈 파악 필요.

그래프 뷰

백링크