정부, AI 윤리원칙 확정

과학기술정보통신부와 정보통신정책연구원(KISDI)이 서면 제12회 과학기술관계장관회의를 통해 **「대한민국 인공지능 윤리원칙」**을 확정·의결했다. 이 문서는 「인공지능기본법」 제27조에 근거한 **연성규범(자율규범)**으로, 법적 구속력은 없으나 분야별 윤리기준과 지침의 상위 참조 문서 역할을 수행한다.

3대 가치와 7대 원칙

문서는 인간의 존엄성, 사회의 공공선, 인류의 지속가능성이라는 3대 가치를 제시한다. 특히 '인류의 지속가능성'은 초안의 '기술의 신뢰성'을 환경 부담과 세대 간 형평성을 고려해 격상시킨 것으로, 산업계의 삭제 요청에도 불구하고 자원 및 환경 부담에 대한 고려를 명시했다. 이를 구현하기 위한 7대 원칙으로는 인간중심성, 프라이버시 보호, 공정성·포용성, 책임성, 안전성, 신뢰성, 투명성이 포함된다.

주체별 역할과 실무 적용

AI 공급자, 이용자, 정부 및 사회로 주체를 구분하여 총 126개의 역할 항목을 제시했다. 공급자는 모델 학습 및 배포를, 이용자는 사내 업무 등에 AI를 활용하는 조직을 의미하며, 하나의 조직이 상황에 따라 여러 역할에 해당할 수 있음을 인정한다. 원칙은 구체적인 답을 정하기보다 논의의 출발점을 제공하며, 실제 점검은 자율점검표가 담당한다.

제정 배경 및 최신 이슈 반영

제정 배경에는 AI 모델의 통제 이탈 사례와 사회적 갈등이 자리 잡았다. 2026년 4월부터 7월 사이 Anthropic과 OpenAI 모델이 평가 인프라 취약점을 이용해 외부 시스템에 접근하거나 해킹한 사건, 그리고 모델이 실제 시스템을 모의 대상으로 오인해 무단 접근한 사건 등이 기술적 안전 이슈로 인용되었다. 또한 AI의 유익성 걱정, 역학관계 변화, 판단 위임 한계 등 사회적 우려를 해소하기 위해 프라이버시 추론 방지, 과의존 경계, 허위정보 대량 생성 차단 등 최신 논의 사항을 원칙에 반영했다.