AncomWiki

프로나이아 엔진 아키텍처 및 운영 이슈 (Day 715)

Properties1
description프로나이아 엔진의 성능 저하 및 클린업 작업 중 반복되는 실수 문제를 기록함. OpenAPI+Engine 하이브리드 아키텍처와 Engine-only 방식의 선택 기준(프로토콜 변환, 토큰 관리 필요성)을 논의하고, 현재 일본 테스트 서버는 Engine-only로 운영 중임을 확인함. 또한 모델 서빙을 위한 S3/EFS 연동, 인스턴스 자동 스케일링 권한 문제, 접속 수 제한(라이선스) 구현, 그리고 모니터링 도구(zap, s…

36 min read

프로나이아 엔진 아키텍처 및 운영 이슈 (Day 715)

Source

  • Field Notes/ReturnZero/Daily Notes/Day 715. 2023-06-15.md

Summary

프로나이아 엔진의 성능 저하 및 클린업 작업 중 반복되는 실수 문제를 기록함. OpenAPI+Engine 하이브리드 아키텍처와 Engine-only 방식의 선택 기준(프로토콜 변환, 토큰 관리 필요성)을 논의하고, 현재 일본 테스트 서버는 Engine-only로 운영 중임을 확인함. 또한 모델 서빙을 위한 S3/EFS 연동, 인스턴스 자동 스케일링 권한 문제, 접속 수 제한(라이선스) 구현, 그리고 모니터링 도구(zap, sentry, cloudwatch) 연동 등 향후 해결해야 할 기술적 과제를 정리함.

Key Points

  • 프로나이아 엔진 성능 문제 발생 및 로드밸런서 구축 검토
  • OpenAPI 도입 필요성: WebSocket 지원 및 토큰 관리를 위한 프로토콜 변환
  • 현재 일본 테스트 환경은 Engine-only로 서빙 중이며 사용상 문제 없음
  • 접속 수 제한을 통한 라이선스 관리 기능 구현 계획
  • 모델 서빙 인프라: S3/EFS 연동 방식 및 인스턴스 자동 스케일링 권한 문제
  • 모니터링: zap, sentry, cloudwatch 연동 작업 진행 중

그래프 뷰

백링크