JVM Heap은 멀쩡한데 왜 메모리가 터질까? — Docker 환경 네이티브 메모리 삽질기 (Part 2)

JVM 애플리케이션을 Docker 컨테이너 환경에서 운영할 때, 설정된 JVM Heap 메모리는 여유가 있음에도 불구하고 컨테이너가 OOM(Out Of Memory) Killer에 의해 종료되는 현상을 다룬다.

이 문제의 핵심은 Heap 영역이 아닌 Native Memory의 사용량에 있다. JVM은 Heap 외에도 Metaspace, Code Cache, Stack, Direct Buffer 등 다양한 영역에서 네이티브 메모리를 사용한다.

특히 Docker의 Cgroup 메모리 제한 내에서 이러한 네이티브 메모리 사용량이 예측 범위를 벗어나면 컨테이너 전체가 종료될 수 있다. 이를 방지하기 위해서는 JVM의 메모리 구조를 정확히 이해하고 적절한 Memory Limit 설정을 수행해야 한다.