AncomWiki

Day 1125. 2024-07-30 - 업무

Properties1
descriptionSemantic matching 모델의 점수 불안정성(temperature/seed 고정 무효)과 앙상블 방식 검토, Gemma2 활용 시 토큰 제한 및 서빙 비용/데이터 플로우 문제로 인한 AWS 서빙 폐기, 팀벨 Sims 접속 오류 해결(이미지 업데이트) 등 일상 업무 이슈 기록.

36 min read

Day 1125. 2024-07-30 - 업무

Source

  • Field Notes/ReturnZero/Daily Notes/Day 1125. 2024-07-30.md

Summary

Semantic matching 모델의 점수 불안정성(temperature/seed 고정 무효)과 앙상블 방식 검토, Gemma2 활용 시 토큰 제한 및 서빙 비용/데이터 플로우 문제로 인한 AWS 서빙 폐기, 팀벨 Sims 접속 오류 해결(이미지 업데이트) 등 일상 업무 이슈 기록.

Key Points

  • Semantic matching 모델의 점수 변동 문제: temperature 0, seed 고정, top_p 조정에도 해결 안됨. 앙상블(평균화) 방식 고려 중.
  • Gemma2 활용 검토: 4096 토큰 제한, 문서 부족, prompty 관련 이슈.
  • 서빙 인프라 결정: 사내 서빙 또는 OpenAI API 사용 시 비용 장벽 존재. AWS 서빙 시 데이터 플로우 복잡성으로 인해 해당 방안 폐기.
  • 팀벨 지원: Sims 접속 불가 원인이 구버전 이미지였으며, 새 이미지 배포 후 해결.
  • June 리뷰 진행 예정.

그래프 뷰

백링크