Apple, 에이전트 LLM용 공유 선택적 영구 메모리 아키텍처 공개

Apple 연구진이 다중 턴 도구 사용을 통해 코드를 생성하는 에이전트 LLM 시스템의 근본적인 컨텍스트 문제를 해결하기 위한 공유 선택적 영구 메모리(shared selective persistent memory) 아키텍처를 공개했다. 기존 시스템은 매 세션마다 설정, 도메인 제약, 데이터 스키마 등을 처음부터 다시 학습해야 했으며, 전체 대화 이력을 저장하는 방식은 토큰 비효율성을 초래하고 생성 품질을 저하시켰다.

새로운 아키텍처는 재사용 가능한 네 가지 범주의 컨텍스트(작업 사양, 데이터 스키마, 도구 구성, 출력 제약)를 식별하여 유지하고, 세션별 추론 흔적은 폐기한다. 이 메모리는 **역할 기반 접근 제어(RBAC)**를 통해 사용자 간에 공유될 수 있어, 축적된 컨텍스트의 협업적 재사용을 가능하게 한다.

구현된 협업 워크스페이스 플랫폼에서는 LLM 에이전트가 CSV, SQL, REST API, MCP 서버 등 다양한 소스를 통해 Git 버전 관리 아티팩트(대시보드, 보고서 등)를 생성 및 유지한다. 제로 토큰 데이터 갱신(zero-token data refresh) 메커니즘은 생성된 프로그램과 런타임 데이터를 분리하여, 반복적인 데이터 업데이트 시 LLM 재호출을 완전히 제거한다.

세 가지 엔터프라이즈 배포 시나리오에서 이 아키텍처는 96%의 작업 완료율을 달성했다. 이는 메모리 없이 수행한 79%, 전체 이력을 저장한 경우의 71%보다 우수한 성능이다. 제로 토큰 갱신 메커니즘은 반복 데이터 업데이트 시 14배의 작업 시간 단축을, 요약 기반 생성은 원시 데이터 주입 대비 97배의 토큰 비용 절감을 실현했다. 네 개의 공개 데이터셋에서 수행된 복제 실험에서도 제로 토큰 갱신이 12/12 성공하며 일반화 가능성을 입증했다.