Anthropic Institute가 AI의 경제·안보·사회적 영향에 대한 4대 연구 중점 분야를 공개했다.
Anthropic은 LLM이 스스로 정렬 연구를 수행하여 인간보다 뛰어난 AI를 감독하는 기술을 연구했다.
AI 에이전트의 자율성으로 인한 위험을 관리하기 위해 모델, 하네스, 도구, 환경을 아우르는 신뢰 구축 프레임워크를 제시한다.
Anthropic이 Constitutional Classifiers로 universal jailbreak 성공률을 4.4%까지 낮췄다.
AI Briefing