AncomWiki

한국어 배포 준비

Properties1
description한국어 서비스 배포를 위한 기술적 준비 사항과 테스트 실행 기록을 담고 있다. 주요 내용은 Triton 인스턴스 구성(단일/멀티), Envoy 서비스 매핑 정책, 그리고 외부 PySommers 데이터를 활용한 한국어(가타카나) 테스트 실행 스크립트 설정이다.

38 min read

한국어 배포 준비

Source

  • Field Notes/ReturnZero/Daily Notes/Day 939. 2024-01-26.md

Summary

한국어 서비스 배포를 위한 기술적 준비 사항과 테스트 실행 기록을 담고 있다. 주요 내용은 Triton 인스턴스 구성(단일/멀티), Envoy 서비스 매핑 정책, 그리고 외부 PySommers 데이터를 활용한 한국어(가타카나) 테스트 실행 스크립트 설정이다.

Key Points

  • 한국어 배포 시 모델은 유지하되 이미지 및 모델 정책(1 Triton 정책) 검토 필요
  • Envoy 활성화 시 서비스 매핑 구조 확인
  • 멀티 Triton 인스턴스(instance1, instance2) 구성 고려
  • PRONAIA_GRPC_URL 등 환경변수 설정과 함께 run_pronaia_online.py 스크립트를 통해 외부 데이터셋 테스트 수행

그래프 뷰

백링크