#determinism와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
DetLLM은 정수 연산으로 하드웨어 간 동일한 LLM 추론 출력을 보장했다.
vLLM에서 Qwen3.8-Flash-Next의 temperature 0 비결정적 출력 문제를 sparse-attention kernel 수정으로 해결했다.
LLM 추론의 비결정성은 단순한 GPU 동시성이 아니라 요청 스케줄링에 더 가깝다.