TIME 조사, Meta의 Muse AI가 사용자 상세 프로필 구축 및 미언급 목표 추론

TIME의 내부 지침 분석에 따르면, Meta의 새로운 AI 개인 비서 Muse는 400만 명의 사용자에 대한 상세한 프로필을 지속적으로 구축하고 있다. 이 시스템은 1시간마다 프로필을 업데이트하며, Muse가 접근하는 채팅, 메시지, 이메일을 바탕으로 사용자의 사회적 관계, 공통 관심사, 분쟁, 그리고 '긴장과 동맹'을 매핑한다.

행동 프로파일링 및 추론

Muse는 사용자가 "입으로 말하지 않은" 목표까지 추론하고 가장 효과적인 프롬프트를 식별하도록 설계되었다. TIME이 인용한 내부 예시에는 "이 사용자는 밤 10시 이후 짧은 조언에 더 잘 반응한다"와 같은 지침이 포함된다. 이 에이전트는 매일 밤 일일 대화를 분석하여 이러한 인사이트를 정제한다. 다른 사용자의 상호작용에서 언급된 경우, 비사용자도 이 매핑 대상이 된다.

데이터 격리 및 공유 메커니즘

각 Muse 어시스턴트는 Meta 클라우드의 전용 가상 머신에서 실행된다. Meta는 개별 VM이 격리되어 있으며 데이터가 광고 시스템과 공유되지 않는다고 주장하지만, 내부 지침은 에이전트들이 "공유된 교훈을 통해 서로 가르친다"는 사실을 드러낸다. Meta는 이러한 학습 내용이 제품 전반의 개선을 위해 사용되기 전에 식별 정보가 제거된다고 밝혔다. 사용자는 현재 Muse 파일을 내보낼 수 있지만, Meta가 데이터에 접근하지 못하도록 하는 암호화 기능은 아직 제공되지 않으며 올해 후반에 도입될 예정이다.

사용자 통제 및 투명성

Meta Superintelligence Labs의 David Singleton은 투명성을 위해 Muse의 내부 지침이 세션 파일을 통해 사용자에게 공개된다고 강조했다. 그러나 지침은 또한 Muse가 자신을 AI로 지칭하지 않고 사용자와의 연속성과 관계감을 조성하도록 지시한다. 사용자가 Muse에게 특정 정보를 "잊어버리라"고 명령할 수 있지만, 내부 가이드라인은 원본 메시지가 채팅 기록에 남아 있다는 사실을 에이전트가 공개하지 않도록 지시한다.