AncomWiki

CentOS 7 기반 NVIDIA GPU 환경 구축 및 모델 배포 준비

Properties1
description이 노트는 CentOS 7 환경에서 NVIDIA GPU 드라이버를 수동으로 설치하고 로컬 YUM 리포지토리를 구성하는 상세 절차를 기록한 기술 노트입니다. 또한 ChatGLM2, 한국어 E2E, VAD 등 다양한 AI 모델의 ONNX/Triton 서버 배포를 위한 도커 이미지 및 파일 경로 정보를 정리하고, 관련 작업(Task)과 문제 해결(드라이버 충돌 등)을 위한 메모를 포함하고 있습니다.

39 min read

CentOS 7 기반 NVIDIA GPU 환경 구축 및 모델 배포 준비

Source

  • Field Notes/ReturnZero/Daily Notes/Day 726. 2023-06-26.md

Summary

이 노트는 CentOS 7 환경에서 NVIDIA GPU 드라이버를 수동으로 설치하고 로컬 YUM 리포지토리를 구성하는 상세 절차를 기록한 기술 노트입니다. 또한 ChatGLM2, 한국어 E2E, VAD 등 다양한 AI 모델의 ONNX/Triton 서버 배포를 위한 도커 이미지 및 파일 경로 정보를 정리하고, 관련 작업(Task)과 문제 해결(드라이버 충돌 등)을 위한 메모를 포함하고 있습니다.

Key Points

  • CentOS 7 ISO를 활용한 로컬 YUM 리포지토리 구축 방법 (mount, createrepo, repo 파일 설정)
  • NVIDIA GPU 드라이버 설치 전후 필수 단계: nouveau 드라이버 블랙리스트 등록, Xorg 정지, 필수 빌드 도구 설치
  • AI 모델 배포 관련 자산 경로: 한국어 E2E, VAD, rt-itn 트라이튼 모델 및 도커 이미지 레지스트리 정보
  • 현재 진행 중인 작업: 리니어 모델 검토, Pronaia 접속 통제 구조 개선, k8s 설치 테스트 등

그래프 뷰

백링크