Cohere, AI를 '능동적 참여자'로… 적응형 거버넌스 기반 변화 관리 전략 제시

Cohere는 AI를 수동적인 도구가 아닌 워크플로의 **능동적 참여자(active participant)**로 취급해야 한다고 주장한다. 기존 엔터프라이즈 소프트웨어의 가드레일에 AI를 억지로 끼워 맞추는 것은 잠재력을 제한한다는 것이다. 대신 조직 적응, 역할 재정의, 지속적 감독에 초점을 맞춘 인간 중심의 AI 변화 관리(human-centric AI change management) 전략을 제안한다.

역할 및 워크플로 재편

AI 도입은 인간과 기계의 상호작용 방식을 재구조화해야 한다. AI는 조직적 맥락을 이해하도록 온보딩되어야 하며, 판단이 필요한 의사결정에는 human-in-the-loop 에스컬레이션 메커니즘을 갖춰야 한다. 인간은 AI를 단순 실행 도구에서 증거를 종합하고 옵션을 제시하는 **사고 파트너(thinking partner)**로 인식하되, 최종 의사결정 권한은 유지해야 한다.

관리자는 AI 생성 출력의 양보다 질을 우선시하여 'AI slop'을 방지해야 한다. 내부 AI 개발자는 사용자 요구, 비즈니스 결과, 거버넌스를 고려하는 미니 제품 관리자(mini product managers) 역할을 수행하도록 장려된다. 법적 또는 운영적 영향을 고려하지 않은 채 역할 경계를 넘나드는 'vibe coding'은 주요 리스크로 지적된다.

작업 분류 및 거버넌스

위임 적합성을 판단하기 위해 Cohere는 세 가지 프레임워크를 제시한다:

• 검증 가능(Verifiable): 사전 정의된 테스트를 통과하는 코드 등 객관적 기준이 있는 작업.
• 판단 기반(Judgment-based): 경쟁 전략 등 AI가 아이디어 발상을 돕지만 인간이 결정하는 주관적 문제.
• 하이브리드(Hybrid): 시장 조사나 제안서 작성 등 검증 가능한 하위 작업과 판단이 결합된 복잡한 작업.

거버넌스는 정적이지 않고 **적응형(adaptive)**이어야 한다. 결정론적 소프트웨어와 달리 AI는 확률적 출력을 생성하므로 드리프트, 편향, 기대치 이탈을 지속적으로 모니터링해야 한다. 접근 제어는 인간 모델과 유사하게 최소 권한(least-privilege) 원칙을 따르고, 권한 확대 시 승인을 요구해야 한다. AI 오류에 대한 책임은 팀 성과에 대한 관리자 책임과 마찬가지로 감독하는 인간에게 있다.

전사적 구현

성공적인 도입은 AI 역량과 팀 숙련도가 시간이 지남에 따라 발전한다는 점을 인식하는 **진화적 접근(evolutionary approach)**을 요구한다. 리더는 비즈니스 영향력과 연결된 명확하고 영감을 주는 목표를 설정하고 가시적인 지지를 제공해야 한다. 커뮤니케이션은 AI를 비용 최적화 수단이 아닌 역할 증강(augment roles) 및 기회 창출 수단으로 프레이밍하되, 한계와 리스크를 투명하게 다뤄야 한다.

측정은 사용 데이터, 직원 피드백, 관리자 관찰, AI 숙련도 지표를 결합하여 빈번하고 다차원적으로 이루어져야 한다. 이 데이터는 추가 교육, 명확한 가이드라인, 워크플로 조정이 필요한 영역을 식별하는 데 도움이 된다. 궁극적으로 AI 통합은 비즈니스 가치 창출을 변혁하는 것을 목표로 하며, 데이터, 기술, 거버넌스 역량이 AI 역량과 함께 진화해야 한다.