AncomWiki

Triton-Kaldi GRPC 연결 실패 및 클라이언트 호환성 문제

Properties1
descriptionTriton-Kaldi 환경에서 GRPC 서버 연결 시 'Unimplemented Error'가 발생하여 전사 테스트가 중단됨. 기존 `tensorrtserver` 라이브러리가 구버전(2020년)이라 호환되지 않아 `tritonclient.grpc`로 마이그레이션을 시도했으나, 해당 클라이언트가 프로젝트 필수 조건인 'decoupled policy'를 지원하지 않아 막힘. 버전 불일치와 API 정책 지원 부재로 인한 기술적…

37 min read

Triton-Kaldi GRPC 연결 실패 및 클라이언트 호환성 문제

Source

  • Field Notes/ReturnZero/Daily Notes/Day 195. 2022-01-11.md

Summary

Triton-Kaldi 환경에서 GRPC 서버 연결 시 ‘Unimplemented Error’가 발생하여 전사 테스트가 중단됨. 기존 tensorrtserver 라이브러리가 구버전(2020년)이라 호환되지 않아 tritonclient.grpc로 마이그레이션을 시도했으나, 해당 클라이언트가 프로젝트 필수 조건인 ‘decoupled policy’를 지원하지 않아 막힘. 버전 불일치와 API 정책 지원 부재로 인한 기술적 장벽 확인.

Key Points

  • Triton-Kaldi GRPC 서버(localhost:8041) 연결 시 InferenceServerException: Unimplemented Error 발생
  • 기존 tensorrtserver 라이브러리가 2020년 기준 구버전으로 판단되어 tritonclient로 전환 시도
  • 대체 클라이언트(tritonclient.grpc)가 필수인 decoupled policy를 지원하지 않아 진행 불가
  • API 요청 구조(ModelInfer)와 기존 InferContext 매핑 관계에 대한 혼란 및 디버깅 시도 기록

그래프 뷰

백링크