가져갈 수 없는 세션

기존 Inference API의 기본 전제는 입력과 출력을 보관하면 대화 전체를 사용자가 소유할 수 있다는 것이었다. 모델이 달라지면 동일한 다음 토큰을 재현할 수는 없어도, 지시사항·메시지·도구 호출·결과가 담긴 transcript를 다른 모델이 이해하고 작업을 이어갈 수 있어야 한다.

하지만 최근 API는 텍스트와 함께 provider에 종속된 상태를 반환한다. 사용자가 직접 확인하기 어려운 reasoning token의 암호화 blob, 모델만 볼 수 있는 웹 검색 결과, provider만 복호화할 수 있는 압축 컨텍스트, 애플리케이션에 숨겨진 subagent 메시지, 외부에서 해석할 수 없는 파일·vector store·container·cache 참조, 서버 ID에만 연결된 대화 상태 등이 대표적이다.

이 구조에서는 로컬에 저장한 transcript가 더 이상 세션 전체가 아니라 provider가 보유한 운영 상태의 일부만 보여주는 기록이 된다. 세션이 실제로 사용자 소유인지 판단하려면 다음 다섯 가지를 확인해야 한다.

• Inspection: 모델이 본 내용과 도구 실행 결과, agent 간 메시지를 사용자가 확인할 수 있는가
• Export: 일반적인 다운로드 가능 artifact를 제외하고 세션이 자체적으로 완결되는가
• Replay: 다른 구현체가 의미적으로 동등한 컨텍스트를 재구성할 수 있는가
• Audit: 사후에 사람이 시스템의 행동 이유를 설명할 수 있는가
• Deletion: 세션에 의존하는 모든 서버 측 사본을 찾아 삭제할 수 있는가

응답 ID는 서버에 저장된 데이터를 가리킬 뿐 transcript가 아니며, 사용자가 복호화할 수 없는 ciphertext도 사용자 통제 상태가 아니다. 검색 결과의 citation 목록 역시 모델의 컨텍스트에 실제로 들어간 증거 자체를 대체하지 못한다.

이른바 encrypted_content도 대개 사용자가 키를 관리하는 개인정보 보호 기능이 아니라, provider가 열고 자신의 모델에서 재생하는 provider-sealed state에 가깝다. 다만 OpenAI가 store: false 설정에서 reasoning을 암호화해 반환하고 다음 요청 때 메모리에서 복호화하는 방식처럼, provider sealing이 서버 측 대화 저장을 피하는 실질적인 프라이버시 이점을 제공하는 경우도 있다.