AI Briefing#optimization
#optimization와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
#optimization와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
DeepSeek가 Blackwell 최적화 및 Mega MoE 지원을 포함한 DeepGEMM 업데이트를 진행했다.
Meta-Harness는 에이전트 기반 제안자를 통해 LLM용 모델 하네스 코드를 자동으로 검색하고 최적화하는 시스템이다.
S3 병렬 다운로드·병렬 decompression·NVMe cache로 p75 restore가 40초에서 1초 미만으로 줄었다.
HuggingFace가 AI 에이전트가 CUDA 커널을 직접 작성할 수 있도록 돕는 새로운 스킬을 공개했다.
모바일 환경의 엄격한 용량 제한을 극복하기 위해 C++와 LOUDS 자료구조를 활용해 최종 라이브러리 크기를 약 200KB로 줄이고, select0 연산 최적화로 분석 속도를 약 17% 개선한 형태소 분석기 개발 사례입니다.
HuggingFace가 datasets 라이브러리의 스트리밍 효율을 개선해 대규모 데이터 학습 속도를 높였다.
수백 개 테이블의 대용량 정합성 검사를 위해 MySQL 스캔 모드별 튜닝, Iceberg 유지 관리, 캐싱 및 로컬 모드 최적화 등을 적용한 카카오의 Spark 잡 개발 사례
동일 모델의 초기 레이어를 활용해 텍스트 생성 속도와 메모리 효율을 높이는 Self-Speculative Decoding 기술을 소개한다.
카카오가 VMware 인프라의 CPU 관점 VM 밀도 최적화 연구를 공개하고 벤치마크 기반 참조표를 제시했다.
카카오 기술전략팀이 LLM의 가격 인하, 속도 향상 등 5가지 핵심 변화를 분석했으며, GPT-4o mini는 GPT-3.5 Turbo 대비 10분의 1 수준의 가격으로 책정되었습니다.
Next.js를 AWS ECS에서 직접 운영할 때 성능을 높이는 CDN 연동법과 도커 이미지 경량화 전략을 소개한다.
Unsloth 라이브러리를 통해 LLM 파인튜닝 속도를 최대 2배 높이고 메모리 사용량을 40% 절감할 수 있다.
Hugging Face가 NVIDIA 플랫폼에서 LLM 추론 속도를 최대 28배 높여주는 Optimum-NVIDIA 라이브러리를 출시했다.
SDXL 모델의 추론 속도를 높이고 메모리 사용량을 줄이기 위한 fp16 적용 및 메모리 효율적 어텐션 활용법을 소개한다.
React 환경에서 복잡한 배송지 입력 폼을 안정적이고 효율적으로 구현하기 위한 기술적 실험과 React Hook Form 도입 과정을 공유한다.