#pre-training

#pre-training와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.

DeepSeek, 화웨이 Ascend 칩으로 V5 사전 학습 계획 발표

·2·2026.11.03 19시

DeepSeek V5가 Huawei Ascend 칩으로 사전 학습을 진행할 계획이다.

·1·2026.11.03 16시

GB200 GPU 16,000장으로 38일간 50T 토큰 학습, DeepSeek-V4-Pro-Base 대비 연산 효율 4~12배 향상 주장

·2026.10.17 22시

AI, LLM, ChatGPT의 관계와 모델 학습·선택 기준을 정리한다.

·2026.04.10 09시

Kanana-2의 첫 개발기에서 pre-training 단계의 핵심 의사결정을 정리한다.

·2026.01.15 00시

카카오가 3T 토큰으로 학습한 Kanana Essence가 llama-3.1-8b 대비 벤치마크 평균에서 더 높은 성능을 기록했으며, Kanana Nano는 프루닝 및 증류 기법으로 효율성을 극대화했다.

·1·2024.11.14 00시