Physical AI 확산과 거버넌스 과제

로봇, 센서, 산업 장비로 확장되는 Physical AI의 발전으로 인해 자율 시스템의 거버넌스 문제가 중요해지고 있습니다. 단순히 AI 에이전트의 작업 수행 여부를 넘어, 실제 환경에서 발생하는 행동을 어떻게 테스트, 모니터링 및 중단할 것인지가 핵심입니다.

시장 규모 및 전망

• 산업용 로봇: 2024년 전 세계 설치 대수는 542,000대로 10년 전 대비 두 배 이상 증가했으며, 2028년에는 70만 대를 넘어설 전망입니다.
• Physical AI 시장: 2025년 약 816억 달러에서 2033년에는 9,603억 달러 규모로 성장할 것으로 예측됩니다.

거버넌스의 차별점 소프트웨어 전용 AI와 달리, Physical AI는 작업 공간, 인프라, 인간 사용자와 직접 상호작용합니다. 모델의 출력이 로봇의 움직임이나 기계 명령으로 직결되므로, **안전 한계(Safety limits)**와 **에스컬레이션 경로(Escalation paths)**를 시스템 설계 단계부터 포함해야 합니다.

Google DeepMind의 사례 Google DeepMind는 로보틱스를 위한 Gemini Robotics와 Gemini Robotics-ER를 선보였습니다.

• Gemini Robotics: 시각-언어-행동(VLA) 모델로 로봇을 직접 제어합니다.
• Gemini Robotics-ER: 공간 이해 및 작업 계획을 포함한 **Embodied Reasoning(체화된 추론)**에 집중합니다.

성공적인 Physical AI를 위해서는 낯선 환경에 대응하는 범용성(Generality), 인간의 입력에 반응하는 상호작용성(Interactivity), 그리고 정밀한 움직임을 구현하는 **기민성(Dexterity)**이 필수적입니다.