dhlee-note

본 논문은 2025년 Stanford 대학교에서 발표한 "Verbalized Sampling: How to Mitigate Mode Collapse and Unlock LLM Diversity" 논문 입니다. 한국어로 번역하면 "언어적 샘플링: 모드 붕괴를 완화하고 LLM 다양성을 확보하는 방법" 입니다. 제목에서 알 수 있듯이 LLM 답변의 다양성이 감소되는 문제에 대한 원인과 학습 없이 이를 해결하는 방법에 대한 내용에 담고 있습니다. Paper: https://arxiv.org/abs/2510.01171 Verbalized Sampling: How to Mitigate Mode Collapse and Unlock LLM DiversityPost-training alignment often reduc..

2025년 03월 Google DeepMind에서 오픈소스 AI 모델 시리즈인 Gemma 3를 공개했습니다. Gemma3는 이미지 이해, 다국어 지원, 최대 128K 토큰까지 긴 문맥 이해 능력이 추가되었습니다. 이번 포스팅에서는 Gemma 3 Technical Report 읽고 정리한 내용을 공유드리도록 하겠습니다.논문 정보제목: Gemma 3 Technical Report저자: Gemma Team, Google DeepMind발행일: 2025년 3월 12일링크: https://arxiv.org/abs/2503.19786요약Gemma 3는 1B, 4B, 12B, 27B 파라미터로 다양하게 제공되며, 휴대폰, 노트북, GPU에서도 실행할 수 있도록 최적화되어 있습니다. 또한, 이미지 이해, 다국어 이해,..