[AI 윤리 세미나 EP.4] AI Agent를 통해 살펴본 책임 있는 AI 사회 구현

최근 등장한 AI Agent는 단순 자동화를 넘어 스스로 문제를 분석하고 외부 도구와 상호작용하는 단계에 이르렀습니다. 이는 지식 노동과 서비스 영역에 근본적인 변화를 예고합니다.

ETH Zurich와 막스 플랑크 연구진은 GovSim 시뮬레이션을 통해 AI Agent들이 '공유지의 비극'을 극복하고 전략적 협력이 가능한지 실험했습니다. 실험 결과, 대부분의 LLM 에이전트는 지속 가능한 균형 유지에 실패했습니다.

하지만 에이전트에게 **'모두가 그렇게 행동하면 어떨까?'**라는 보편화 법칙 프롬프트를 입력하자 도덕적 판단 비중이 높아지며 생존율이 향상되었습니다. 이는 AI 시스템 설계 시 비용 최적화뿐만 아니라 윤리적 메커니즘을 반드시 고려해야 함을 시사합니다.

또한 마이크로소프트 리서치 아시아의 Alympics 연구는 게임 이론 시나리오를 통해 GPT-4 기반 에이전트들의 자원 관리, 협상, 전략적 계획 능력을 테스트하며 AI의 전략적 결정 과정을 탐구합니다.