일본어 NLP 화이트리스트 및 배포 기록

Source

  • Field Notes/ReturnZero/Daily Notes/Day 792. 2023-08-31.md

Summary

일본어 텍스트 처리(NLP)를 위한 영문 단어의 화이트리스트(유지 대상), 블랙리스트(제거 대상), 및 불확실한 단어를 분류한 목록이다. 또한 ‘mww’ 모델의 일본 배포본을 위한 Helm 기반 배포 명령어와 관련 설정을 기록하고 있다.

Key Points

  • 일본어 환경에서 유지해야 할 영문 단어(예: SUNDAY, CHANGE, KOMCA 등)와 제거해야 할 UI/시스템 용어(예: V LIVE, INSERT CHART 등)를 구분함
  • 문맥에 따라 판단이 필요한 단어(S.T.A.R., MICE 등)를 별도 분류함
  • 숫자 및 단위(MB) 처리 규칙을 언급함
  • mww 일본 배포본을 위한 Helm upgrade/install 명령어 및 values 파일 경로를 기록함