AI Briefing#constitutional-ai
#constitutional-ai와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
#constitutional-ai와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
Anthropic이 Google Cloud를 클라우드 제공업체로 선정하여 AI 시스템의 학습 및 배포를 위한 인프라를 확보했다.
Anthropic은 Claude 정렬 훈련에서 '왜'를 가르치는 방식이 더 잘 일반화한다고 밝혔다.
Anthropic이 Constitutional Classifiers로 universal jailbreak 성공률을 4.4%까지 낮췄다.
Anthropic이 AI 거버넌스 국제 표준인 ISO/IEC 42001 인증을 획득하며 AI 안전성에 대한 신뢰를 입증했다.
Anthropic이 Scale과 파트너십을 체결하여 기업들이 Claude를 기반으로 생성형 AI 애플리케이션을 손쉽게 구축하고 배포할 수 있도록 지원한다.
HuggingFace가 오픈 소스 모델을 위한 Constitutional AI 구현 방법론과 관련 도구, 데이터셋을 공개했다.