Anthropic, 안전하고 신뢰할 수 있는 AI 개발을 위해 Series B 투자 유치

Anthropic이 5억 8,000만 달러 규모의 Series B 투자를 유치했다. 이번 투자금은 대규모 실험 인프라를 구축하여 계산 집약적인 AI 모델의 안전성을 탐구하고 개선하는 데 투입될 예정이다.

2021년 설립 이후 Anthropic은 시스템의 조종 가능성(steerability), 강건성(robustness), 해석 가능성(interpretability) 연구를 지속해 왔다. 주요 연구 성과는 다음과 같다:

• 소규모 언어 모델의 동작을 수학적으로 역공학하는 기술 개발
• LLM의 패턴 매칭 동작 원리 이해
• 모델을 더 '도움이 되고 해롭지 않게(helpful and harmless)' 만드는 기술 및 RLHF 기반 강화 학습 연구

이번 연구의 핵심은 사후 훈련 개입을 최소화하면서도 내재적인 안전장치를 갖춘 대규모 모델을 구축하는 기술적 요소를 개발하는 것이다. 또한, 이러한 안전장치가 실제로 작동하는지 검증할 수 있는 도구 개발과 AI의 정책적·사회적 영향력을 탐구하는 팀 및 파트너십 구축도 병행한다.

Dario Amodei CEO는 이번 투자로 머신러닝 시스템의 예측 가능한 스케일링 특성을 탐구하는 동시에, 대규모 환경에서 나타날 수 있는 예측 불가능한 능력 및 안전 문제를 면밀히 조사할 것이라고 밝혔다.