AI Briefing#performance-optimization
#performance-optimization와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
#performance-optimization와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
신규 커널 퓨징 기법이 B200에서 정규화 지연 90%를 숨기고 어텐션을 35% 가속했다
llama.cpp의 새로운 CUDA 커널이 추측적 디코딩 속도를 최대 34.9%까지 높였다.
MSK Express Kafka 트랜잭션 병목이 코디네이터임을 확인하고 최적화 순서를 제시했다.
LangGraph 워크플로우 재작성 없이 이관해 고동시성 지연을 완화했다.
인라인 스크립트로 API 요청을 병렬화해 웹뷰 로딩 성능을 개선하고 약 80개 페이지에 적용했다.
PyTorch 2.15가 FP8 지원과 Metal 최적화로 Mac에서 MoE 디코딩 속도를 5~6.5배 높였다
GitHub가 스타 히스토리 API를 출시해 요청 수를 2,511개에서 24개로 줄였다.
우선순위 대신 GPU 시간 예산과 공정 분배 도입으로 클러스터 점유율 98% 유지하며 대기 시간 대폭 개선
Linus Torvalds가 LLM으로 작성한 Linux kernel 패치 시리즈를 공개했으나 race condition이 발견됐다.
Torvalds가 Claude Code로 생성한 커널 브랜치로 page cache 읽기 경쟁을 줄였다.
remote DRAM 접근 비율을 50%에서 0.8%로 낮춰 같은 자원에서 성능을 높였다.
Cloudflare가 Workers와 Durable Objects용 on-demand 프로파일링 기능을 출시했다.
Prime Agent가 Rust로 자체 재작성해 시작 시간 14배 단축 및 메모리 80% 이상 절감했다.
Aurora MySQL 3.08.0~3.14 미만 버전에서 인덱스 DDL이 Reader 버퍼풀을 비우는 결함이 확인됐다.
ParadeDB가 Tantivy 최적화로 BM25 벤치마크에서 TIN을 추월했다.
llama.cpp 최적화로 초안 생성 최대 140배 빨라지고 메모리 2.6배 감소했다.
주석 높이 예측 불가 문제를 해결하기 위해 코드와 주석의 기하학적 구조를 분리하는 이중 지오메트리 방식을 적용했다.
아웃박스 큐를 제거하고 폴링 주기를 10분에서 10초로 단축해 자동승인 대기 시간을 최소화했다.
2주 스프린트 동안 3,000개 이상의 변경 사항을 병합해 고객 인시던트 없이 성능을 최적화했다.