AncomWiki

2024-09-26: AI 연구 전략, Llama 3.2 및 로컬 LLM 도구

Properties1
description이 노트는 2024 년 9 월 26 일의 일기 형식으로, AI 연구 방법론 (좋은 프로젝트 선택, 아티팩트 유지, 적시성) 과 최신 AI 동향 (Llama 3.2, API Impact Report) 을 기록하고 있다. 또한 로컬 언어 모델 실행을 위한 도구 (sglang) 와 데이터셋 정보를 메모했다.

16 min read

2024-09-26: AI 연구 전략, Llama 3.2 및 로컬 LLM 도구

Source

  • Basic Journals/Daily Journals/2024 갑진년/갑진년 270일, 9월 26일 목요일.md

Summary

이 노트는 2024 년 9 월 26 일의 일기 형식으로, AI 연구 방법론 (좋은 프로젝트 선택, 아티팩트 유지, 적시성) 과 최신 AI 동향 (Llama 3.2, API Impact Report) 을 기록하고 있다. 또한 로컬 언어 모델 실행을 위한 도구 (sglang) 와 데이터셋 정보를 메모했다.

Key Points

  • AI 연구/스타트업 전략: 단기 수익보다 미래 먹거리인 ‘좋은 프로젝트’ 선택이 중요하며, 일관된 아티팩트 (모델/시스템 등) 유지와 적시적인 문제 선택이 핵심이다.
  • Llama 3.2 동향: 비전 모델 추가 및 Arm 하드웨어 호환성 강화. 구글 Gemma 영향으로 파괴력은 다소 약화된 것으로 평가.
  • AI 도입 현황: API Impact Report 에 따르면 AI 는 실질적 비즈니스 가치 창출 중이나, 보안/컴플라이언스와의 조화 및 적절한 도구 선택이 리더십의 주요 과제로 부상.
  • 로컬 LLM 도구: 서빙 프레임워크로 sglang 추천, 관련 데이터셋 (KOpen-HQ-Hermes-2.5-60K) 및 프로젝트 (chat-vibe) 링크 기록.

그래프 뷰