Google Cloud, 에이전트 평가 4대 교훈 공개… 실행 궤적 채점과 이중 테스트 강조

Google Cloud는 AI 에이전트의 신뢰성 확보를 위해 구축보다 평가 엔지니어링이 중요하다고 강조하며, 신규 출시된 Google Cloud Developer plugin을 테스트베드로 삼아 실제 워크플로에서 에이전트 행동을 측정하는 네 가지 핵심 교훈을 제시했다.

최종 텍스트가 아닌 실행 궤적 평가

최종 답변 텍스트에 LLM-as-judge를 적용한 초기 평가는 실제 행동을 확인하지 못해 결함이 있었다. 11개 프롬프트 평가 세트에서 자동 평가기는 3개 프롬프트를 실패로 판정했지만, 원시 도구 호출 로그를 확인한 결과 에이전트는 gcloud help run services list 등 필요한 명령을 성공적으로 실행했으나 최종 요약에는 이를 언급하지 않았다. 따라서 실제로 실행 및 검증된 명령을 확인하기 위해 원시 실행 궤적을 채점해야 한다.

텔레메트리의 턴 구조 유지

에이전트 텔레메트리를 평면화된 순차 리스트로 추출하면 행동 실패의 주요 원인인 동시 도구 디스패치가 가려진다. 최신 에이전트 하네스는 여러 도구 호출을 단일 어시스턴트 턴으로 일괄 처리하는 경우가 많다. 한 사례에서는 스킬 로딩 호출과 두 번의 문서 검색이 동시에 디스패치되어, 스킬 지침이 검색 실행 후에 컨텍스트 창에 도착했다. 엔지니어는 병렬 디스패치로 인해 주입된 지침이 컨텍스트에 들어오기 전에 도구 호출이 발생하는 시점을 식별하기 위해 텔레메트리 추출기에서 턴 구조를 유지해야 한다.

라이브 및 플랜 전용 테스트 병행 실행

단일 환경 조건에서의 테스트는 불충분하다. 팀은 두 가지 조건을 동시에 실행할 것을 권장한다. 실제 실행과 안전 제한을 테스트하기 위해 샌드박스 자격 증명을 사용한 라이브 실행과, 모델의 원시 추론 및 라우팅 의도를 노출하기 위해 자격 증명을 제거한 플랜 전용 실행이다. 가장 중요한 발견의 약 절반은 이 두 조건 간의 차이에서 나왔다. 예를 들어, 권한 오류로 차단된 라이브 실행은 조직 정책과 거버넌스를 무시하는 중대한 인지적 결함을 숨겼으나, 플랜 전용 실행은 이를 몇 초 만에 드러냈다.

골든 세트를 영구적 기준선으로 활용

프런티어 모델 아키텍처와 에이전트 하네스가 진화함에 따라 평가는 비결정적 스택에 대한 지속적 통합 테스트로 기능해야 한다. 최종 텍스트로 추측하는 대신, 팀은 생각, 명령, 결과를 포함한 전체 궤적을 캡처하여 인간 전문가가 큐레이션한 골든 세트와 비교해 채점해야 한다. 이러한 기준선은 모델 변동에 대한 안전망 역할을 하여 하네스, 모델, 도구의 복합 시스템이 예상대로 작동함을 보장한다.