Rocky Linux 환경 Docker 및 Triton Server 이미지 설정

Source

  • Field Notes/ReturnZero/Daily Notes/Day 882. 2023-11-30.md

Summary

Rocky Linux 시스템에 Docker CE를 수동으로 설치하고, iptable_nat 모듈을 로드한 후, k8s.io 네임스페이스에 Triton Inference Server 이미지를 ctr 명령어로 가져오는 과정 기록.

Key Points

  • Rocky Linux에서 Docker CE 공식 리포지토리를 추가하여 Docker 엔진 및 CLI 설치
  • Docker 서비스 시작 및 부팅 시 자동 실행 설정
  • 네트워킹을 위한 iptable_nat 커널 모듈 로드
  • 컨테이너 런타임(ctr)을 통해 Triton Server 이미지(tritonserver-230824.tar)를 k8s.io 네임스페이스에 임포트