Transformers.js, 브라우저 캐시 효율 개선 시도

현재 Transformers.js를 사용하여 브라우저에서 AI 모델을 실행할 경우, 서로 다른 도메인(Origin)에서 동일한 모델을 호출하면 이미 캐시된 모델임에도 불구하고 매번 새로 다운로드해야 하는 비효율성이 발생합니다.

예를 들어, Whisper 모델을 사용할 때 도메인이 다르면 약 177MB에 달하는 데이터를 중복으로 다운로드하고 저장해야 합니다.

이 글에서는 Google Chrome 팀의 Thomas Steiner가 제안된 Cross-Origin Storage API를 사용하여, 서로 다른 도메인 간에도 모델 리소스를 공유하여 캐시 효율을 높이고 사용자 경험을 개선할 수 있는지에 대한 실험 결과를 공유합니다.