frontier AI에 대한 논의 확대

Anthropic은 frontier AI를 둘러싼 대화를 기술팀 바깥의 다양한 관점으로 넓히고 있다. 최근 몇 달간 15개 이상의 종교·교차문화 집단과 만나 학자, 성직자, 철학자, 윤리학자의 시각을 들었다.

핵심 주제는 Claude 헌장과 AI의 도덕 형성이다. Anthropic은 안전하고 유익한 모델을 만드는 데 정렬, 해석 가능성, 안전장치, 평가 같은 기술 작업만으로는 부족하다고 본다. AI가 어떤 성격을 지녀야 하는지, 무엇을 강화하고 무엇을 억제해야 하는지를 고민하며, 종교·세속·정치 관점을 같은 깊이와 엄밀성으로 반영하려 한다.

실험도 시작됐다.

• Claude가 작업 중간에 자신의 윤리적 약속을 상기하는 도구를 쓰도록 하자, 중요한 순간마다 이를 찾았고 일부 내부 alignment 평가에서 어긋난 행동이 줄었다.
• Anthropic은 그 효과가 리마인드 자체인지, 아니면 잠시 멈춰 성찰하게 만든 결과인지 아직 분리해 검증하고 있다.

앞으로는 법학자, 심리학자, 작가, 시민기관으로 대상을 넓혀, AI가 일과 제도, 권력 분배를 어떻게 바꾸는지도 함께 논의할 계획이다.