AI 안전성에 대한 핵심 관점

Anthropic은 AI의 영향력이 산업 및 과학 혁명에 비견될 정도로 거대할 것이며, 이 변화가 향후 10년 내에 본격화될 것으로 전망한다. Scaling laws(스케일링 법칙)에 따르면, computation(연산량)과 training data(학습 데이터)의 증가는 AI 성능의 예측 가능한 향상을 가져온다.

하지만 현재 기술로는 강력한 AI 시스템을 helpful(도움이 되는), honest(정직한), harmless(무해한) 방식으로 견고하게 학습시키는 방법을 알지 못한다. 급격한 기술 발전은 기업과 국가 간의 경쟁을 촉발하여, 신뢰할 수 없는 AI 시스템을 성급하게 배포하는 위험을 초래할 수 있다.

Anthropic은 이를 해결하기 위해 다음과 같은 다각적인 연구를 진행하고 있다:

• Scaling supervision(감독 스케일링)
• Mechanistic interpretability(기계론적 해석 가능성)
• Process-oriented learning(과정 중심 학습)
• AI의 학습 및 일반화 방식에 대한 이해와 평가