AncomWiki

팀벨 문의 - 웹소켓-gRPC 연동

Properties1
description웹소켓과 gRPC 간 연동 아키텍처(WebSocket-to-gRPC 브리징) 구현 중, 간헐적인 Connection timed out 오류(약 150 회당 1 회) 발생. 무한 루프 기반 채널 할당 및 스트리밍 처리 방식에서 디코더 응답 지연 또는 연결 끊김 현상 관찰. 테스트 환경(동시 30 개, 8 초 wav 분할 전송) 및 GPU/CPU 서버 사양 명시.

37 min read

팀벨 문의 - 웹소켓-gRPC 연동

Source

  • Field Notes/ReturnZero/Daily Notes/Day 873. 2023-11-21.md

Summary

웹소켓과 gRPC 간 연동 아키텍처(WebSocket-to-gRPC 브리징) 구현 중, 간헐적인 Connection timed out 오류(약 150 회당 1 회) 발생. 무한 루프 기반 채널 할당 및 스트리밍 처리 방식에서 디코더 응답 지연 또는 연결 끊김 현상 관찰. 테스트 환경(동시 30 개, 8 초 wav 분할 전송) 및 GPU/CPU 서버 사양 명시.

Key Points

  • 아키텍처: Client -> Master -> Worker(WebSocket to gRPC) -> ReturnZero Decoder -> Worker -> Master -> Client
  • 구현 방식: websocket_to_grpc() 함수에서 async gRPC 채널과 WebSocket 채널을 열고 무한 루프로 stream_generator 처리
  • 주요 이슈: 전송 완료 후 연결 끊김 또는 디코더 응답 지연으로 인한 간헐적 Timeout 오류
  • 테스트 조건: 8 초 wav 를 0.25 초마다 8kb 씩 분할 전송 (총 32 회), 동시 30 개 세션
  • 인프라 사양: GPU 서버 (A10/A5000/A6000, 16Core*2, 64GB RAM) 및 CPU 서버 구성

그래프 뷰

백링크