AncomWiki

2024-10-14 일기: 육체 관리, 60갑자 계산법, LLM 파인튜닝 기술 동향

Properties1
description이 노트는 2024 년 10 월 14 일의 일기로, 세 가지 주요 영역을 다룹니다. 첫째, 둬링고 학습과 주말 과식으로 인한 체중 증가에 대한 육체적 기록입니다. 둘째, 60 갑자 (간지) 의 순환 규칙을 '웨이브' 개념으로 단순화하여 특정 연도 (예: 병인년, 정묘호란, 병자호란) 를 빠르게 역산하는 논리적 추론 과정입니다. 셋째, Vision Transformer, LlamaFactory, Unsloth 등 최신 LLM…

32 min read

2024-10-14 일기: 육체 관리, 60갑자 계산법, LLM 파인튜닝 기술 동향

Source

  • Basic Journals/Daily Journals/2024 갑진년/갑진년 288일, 10월 14일 월요일.md

Summary

이 노트는 2024 년 10 월 14 일의 일기로, 세 가지 주요 영역을 다룹니다. 첫째, 둬링고 학습과 주말 과식으로 인한 체중 증가에 대한 육체적 기록입니다. 둘째, 60 갑자 (간지) 의 순환 규칙을 ‘웨이브’ 개념으로 단순화하여 특정 연도 (예: 병인년, 정묘호란, 병자호란) 를 빠르게 역산하는 논리적 추론 과정입니다. 셋째, Vision Transformer, LlamaFactory, Unsloth 등 최신 LLM 관련 기술 동향을 정리하며, 특히 데이터 양에 따른 LoRA 와 풀 파인튜닝의 선택 기준 및 rsLoRA 의 장단점에 대한 기술적 고찰을 담고 있습니다.

Key Points

  • 육체 관리: 둬링고 학습 지속, 주말 과식으로 인한 체중 증가 및 스트레스 기록
  • 60 갑자 계산법: 간지의 순환을 12 년 주기의 ‘웨이브’로 분류하여 연도를 빠르게 역산하는 알고리즘적 접근 (예: 갑진년은 4 번째 웨이브)
  • 역사 연도 추론: 1984 년 (갑자) 을 기준점으로 하여 정묘호란 (1627 년), 병자호란 (1636 년) 등의 연도를 간지 순환 규칙을 통해 검증
  • LLM 기술 동향: Vision Transformer, LlamaFactory, Unsloth 등 관련 도구 및 논문 링크 수집
  • 파인튜닝 전략: 대용량 데이터 시 풀 파인튜닝의 유효성 vs GPU RAM 제약, LoRA 의 한계 (Alpha/rank 증가 시 성능 저하) 및 rsLoRA 의 대안적 가치

그래프 뷰