AI Briefing#model-scaling
#model-scaling와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
#model-scaling와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
Jane Street 연구진이 시퀀스 가중치와 손실 감소 간 관계가 모델 크기에 따라 비단조적으로 변하는 현상을 규명했다.
모델이 기억하는 사실의 양을 측정해 크기를 역산하는 IKP 기법을 통해 주요 비공개 프론티어 모델의 파라미터 수를 추정했다.