#data-mixture와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
희소 데이터는 15~20회 재사용이 최적이며, 이를 반영한 스케일링 법칙을 제시했다.
작은 proxy 모델과 Gaussian-process로 멀티모달 데이터 혼합을 1/100 비용으로 최적화했다.