AI Briefing#nvidia-gpu
#nvidia-gpu와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
#nvidia-gpu와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
llama.cpp의 새로운 CUDA 커널이 추측적 디코딩 속도를 최대 34.9%까지 높였다.
RTX 4090에서 초당 491개 질문을 처리하는 오픈소스 LLM 추론 서버가 공개됐다.
Anthropic이 Claude를 활용해 생체분자 모델 30개 이상을 최적화하고, 단백질 설계의 GPU 시간을 약 100분의 1로 줄였다.
OpenAI가 AWS 인프라를 활용해 AI 워크로드를 확장하기 위한 380억 달러 규모의 파트너십을 체결했다.