루크 컬리, WebRTC 한계 지적

OpenAI의 "How OpenAI delivers low-latency voice AI at scale"에 대한 반응으로, 루크 컬리는 WebRTC가 네트워크가 나빠지면 프롬프트와 오디오를 유실하도록 설계돼 있다고 지적했다.

그는 WebRTC가 화상회의처럼 즉각적인 왕복이 중요한 환경에서는 지연을 낮추기 위해 오디오 패킷을 공격적으로 버리는 것이 맞다고 설명했다. 다만 LLM 프롬프트에서는 사용자가 조금 더 기다리더라도 더 정확한 응답을 받는 편이 낫다고 봤다.

• 그는 느리고 비싼 프롬프트라면 200ms 더 기다리는 쪽을 선호한다고 말했다.
• 하지만 브라우저 안에서 WebRTC 오디오 패킷을 재전송하는 일은 사실상 어렵고, Discord에서도 같은 한계를 확인했다고 했다.
• 결국 구현 자체가 실시간 지연을 우선하도록 고정돼 있어, 정확도를 위해 기다리는 선택지가 거의 없다는 것이 핵심이다.

Simon Willison은 이 발언을 2026년 5월 9일에 인용해 게시했다.