유니제 샤오, AI 에이전트 RL 환경은 조직 노우하우 모델링 필요 주장

GPT-6 Astra와 같은 모델이 소프트웨어 조작 문제를 점차 해결하면서, 남은 난제는 도구를 사용하는 방법과 비즈니스 목표를 달성하는 방법 사이의 격차임
RL 환경은 클릭이 합법적인지 확인하는 것을 넘어, 도메인 특유의 '노우하우'인 불문율, 승인 임계값, 조직 상태를 세계와 보상 함수에 인코딩해야 함
환경은 '하나의 세계, 여러 문' 구조로 구축되어 GUI, API, CLI를 통해 동일한 상태를 노출하고, 에이전트가 인터페이스를 효율적으로 전환하고 모든 표면에서 권한을 준수하는 능력을 테스트해야 함
오타, 오래된 파일, 모호한 지시, 사회적 마찰과 같은 현실적 노이즈는 에이전트가 세상이 깔끔하다고 학습하지 않도록 태스크 분포의 1급 축으로 포함해야 함
제안된 실험은 소프트웨어를 고정하고 조직(승인 체인, 예산, 동료)을 변화시켜 에이전트가 새로운 제약 조건에 적응하고 도구를 조작하는 것을 넘어 실제 업무를 완수할 수 있는지 측정함

핵심 내용