AI 에이전트가 한발 물러설 때를 설계하기

Agentic AI는 코딩, 리서치, 여행 계획, 고객 응대까지 수행할 수 있지만, 성패는 기능보다 인간-AI coordination을 어떻게 설계하느냐에 달려 있다. 단순히 “자율적”인 시스템을 만드는 것만으로는 부족하고, 사용자가 무엇을 보고 무엇을 맡기며 무엇을 통제하는지까지 함께 맞춰야 한다.

저자들은 coordination을 세 축으로 정리한다. human involvement는 사용자의 개입·감시 수준, AI salience는 AI가 얼마나 눈에 띄는지, AI activity는 보이지 않는 백그라운드 작업까지 포함한 실제 행동이다. 좋은 UX는 이 셋을 작업과 맥락에 맞게 정렬하는 것이다.

이 관점에서 agentic experience는 세 가지 존으로 나뉜다.

• Done with me: 사용자와 AI가 여러 단계에서 함께 일하는 협업형 경험
• Done for me: 사용자는 시작과 검토만 하고, 대부분의 작업은 AI가 처리하는 자동화형 경험
• Done under me: AI가 배경에서 조용히 돕는, 거의 드러나지 않는 지원형 경험

핵심은 어느 한 모드가 정답이 아니라는 점이다. 같은 제품이라도 과제의 난이도, 사용자의 숙련도, 위험도에 따라 서로 다른 존이 필요하며, 적절한 수준의 개입과 투명성을 맞춰야 신뢰와 통제가 유지된다.

이를 설명하기 위해 저자들은 coordination curve라는 개념도 제안한다. 작업 초반에는 목표와 제약을 정하기 위해 개입이 높아지고, 실행 구간에서는 낮아졌다가, 검토와 다음 단계에서 다시 높아지는 식으로 인간 참여와 AI salience가 시간에 따라 오르내린다는 것이다. 특히 긴 연구나 다단계 워크플로우에서는 AI가 독립적으로 일하는 ‘valley’ 구간이 생기므로, 알림·승인·모니터링·감사 기능이 중요해진다.

실제 사례로는 responsive salience라는 접근을 소개한다. 시스템이 작업 복잡도, 위험도, 사용자 숙련도, 편안함 같은 신호를 계속 살피다가 신뢰가 낮다고 판단되면 설명을 더 자세히 보여주고, 승인 단계를 늘리고, 투명성을 높인다. 사용자가 원하면 이를 덮어쓸 수 있고, 상황이 바뀌면 salience는 다시 조용히 원래 수준으로 돌아간다.

초기 테스트에서는 반응이 엇갈렸다. 어떤 사용자는 높은 salience가 시각적으로 피곤하다고 느꼈고, 다른 사용자는 다음에 무엇을 할지 제안해줘서 도움이 된다고 했다. 많은 참가자는 시스템이 너무 자연스러워서 responsive salience 자체를 인지하지 못했는데, 이는 잘 맞춘 동적 coordination이 오히려 비침습적으로 느껴질 수 있음을 보여준다.

결론은 분명하다. 에이전트는 더 똑똑해지는 것만으로는 충분하지 않다. 사용자의 신뢰와 숙련도, 작업의 위험도에 따라 언제 함께하고 언제 물러설지 조정하는 UX 레이어가 따라와야 한다. 그 조율이 맞을 때만 사람들은 에이전트를 신뢰하고 채택하며, 심지어 함께 일하는 경험 자체를 즐기게 된다.