AI Briefing#performance-benchmark
#performance-benchmark와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
#performance-benchmark와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
신규 Arm NEON 커널이 llama.cpp 프롬프트 처리 속도를 최대 6.5배 높였다
RidgeFill이 학습 없이 Qwen3.8-27B 프리필 속도를 1.25~1.31배 높였다
NVIDIA Vera CPU가 x86 대비 에이전트 처리량과 에너지 효율에서 우위를 입증했다.
SMU 및 Meta AI 소속 연구자의 실증 연구에서, 추천 재순위화 시 Jev 모델이 포인트와이즈 Qwen 대비 지연 시간이 최대 17배 짧고 12개 실험 조건 중 11개에서 품질-지연 비열(non-dominated) 경계에 위치했다.
Manticore Search가 모델 입력 창 제한으로 인한 정보 손실을 해결하기 위해 테이블 정의 내 청킹 전략을 도입했다.
OpenAI의 자체 추론 칩 Jalapeño가 전력당 처리량과 지연 시간에서 기존 하드웨어 대비 우위를 입증했다.
OpenAI의 자체 추론 칩 Jalapeño가 전력 대비 성능과 지연 시간에서 기존 시스템을 크게 앞지른 것으로 확인됐다.