카카오뱅크 컨테이너플랫폼팀이 실전형 클라우드 운영 대회인 AWS GameDay 2025에서 1위를 차지했다.
SGLang이 Transformers 백엔드를 지원하여 모든 Transformers 호환 모델을 고성능으로 추론할 수 있게 되었다.
iOS 개발자 출신 신입 QA 엔지니어가 올리브영에서 겪은 5개월간의 성장과 온보딩 경험을 공유한다.
diffusers 라이브러리와 QLoRA를 활용해 10GB 미만의 VRAM으로 FLUX.1-dev 모델을 효율적으로 미세 조정하는 방법을 소개한다.
Replit이 작업의 복잡도와 소요 시간에 따라 비용을 책정하는 Effort-Based 요금제를 도입한다.
특정 분야의 잘못된 학습이 모델 전체의 정렬 불량으로 확산되는 현상을 규명하고 해결책을 제시했다.
Node.js는 JS 실행은 단일 스레드지만, I/O와 스케일아웃으로 실무에선 멀티스레드처럼 쓴다.
성공적인 멀티 에이전트 시스템 구축을 위해서는 정교한 Context Engineering과 작업 성격에 따른 설계가 핵심이다.
OpenAI가 미국 공공 부문의 AI 도입을 지원하기 위해 'OpenAI for Government'를 출시했다.
Hugging Face Hub에서 Groq의 LPU 기반 초고속 추론 서비스를 직접 이용할 수 있게 되었다.
Stability AI가 NVIDIA와 협력하여 TensorRT로 최적화된 Stable Diffusion 3.5 모델을 공개해 성능을 최대 2.3배 높였다.
vLLM의 chunked-prefill 전략에서 발생하는 긴 프롬프트의 큐 차단 문제를 분석하고 최적화 방안을 제시한다.
OpenAI와 Mattel이 파트너십을 맺고 브랜드 경험 혁신을 위해 ChatGPT Enterprise를 도입한다.
Hugging Face가 서버리스 추론 서비스인 Featherless AI를 새로운 추론 제공업체로 지원한다.
Hugging Face가 최적화된 연산 커널을 쉽게 불러와 모델 성능을 높일 수 있는 Kernel Hub를 공개했다.