#latency

#latency와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.

실시간 더빙은 문맥 파악을 위한 지연 시간과 번역 정확도 사이의 균형을 맞추는 것이 핵심이다.

·1·2026.04.10 14시

ElevenLabs가 지연 시간을 약 400ms로 단축한 초고속 모델 Turbo v2를 출시했다.

·1·2026.04.10 14시

S3 병렬 다운로드·병렬 decompression·NVMe cache로 p75 restore가 40초에서 1초 미만으로 줄었다.

·1·2026.04.02 13시

Vercel은 Bloom filter와 샤딩을 활용해 수백만 개의 리다이렉트를 저지연으로 처리하는 시스템을 구축했다.

·1·2026.03.03 22시

Vercel AI Gateway가 수백 개의 모델에 대한 실시간 처리량과 지연 시간 지표를 제공한다.

·1·2026.01.26 22시

Jamba Reasoning 3B가 6만 토큰 QA에서 Qwen3 4B보다 훨씬 빨랐다.

·1·2025.11.11 19시

처리 시간과 처리 외 시간을 분리해 Flink latency 병목을 좁히는 방법.

·2025.03.28 09시

Replit은 지연 시간 단축을 위해 전 세계로 인프라를 분산하고 클러스터 기반의 격리된 구조를 구축했다.

·2023.03.17 01시

Hugging Face가 내부 모델 서빙을 AWS ECS에서 Inference Endpoints로 전환하며 얻은 성능 및 비용 이점을 공개했다.

·2023.02.15 09시

Replit이 글로벌 지연 시간 문제를 해결하기 위해 컨트롤 플레인과 데이터 플레인을 분리하는 인프라 개편을 단행했다.

·2022.07.09 02시

Replit이 인도와 영국에 컴퓨팅 리전을 구축하며 본격적인 글로벌 서비스로 확장한다.

·2021.01.28 14시

Replit은 최근 10주간의 안정성 스프린트를 통해 지연 시간을 줄이고 연결 성공률을 99.5%까지 끌어올렸다.

·1·2020.12.01 09시