AI BriefingAnthropic News 뉴스
Anthropic News에서 수집한 AI·개발 최신 뉴스와 한국어 요약입니다.
원문 사이트 방문 →AI 위해(Harm)를 이해하고 대응하기 위한 접근 방식
Anthropic이 AI의 물리적·심리적·경제적 영향을 포함한 광범위한 위해를 관리하기 위한 새로운 프레임워크를 공개했다.
로렌스 리버모어 국립연구소, 과학자 지원 위해 Claude for Enterprise 도입 확대
로렌스 리버모어 국립연구소(LLNL)가 약 1만 명의 연구원을 지원하기 위해 Claude for Enterprise 도입을 전사적으로 확대한다.
AI 안전을 위한 프론티어 위협 레드팀(Red Teaming) 수행
Anthropic은 생물학적 위험 등 국가 안보와 직결된 AI 프론티어 위협을 평가하기 위해 전문가와 함께 레드팀 테스트를 수행했다.
프론티어 모델 보안
Anthropic은 프론티어 AI 모델의 도난 및 오용을 방지하기 위해 '2인 통제'와 같은 강력한 보안 체계와 국가적 차원의 인프라 보호를 제안했다.
영국 및 유럽의 경제적 미래
Anthropic이 AI가 노동 시장과 경제에 미치는 영향을 연구하기 위해 'Economic Futures Programme'을 영국과 유럽으로 확대한다.
민관 협력을 통한 AI 핵 안전 가드레일 구축
Anthropic이 미국 에너지부(DOE)와 협력하여 AI의 핵 위험을 감지하는 분류기를 개발하고 Claude에 적용했다.
Claude의 악용 사례 탐지 및 대응 (2025년 3월)
Anthropic은 Claude를 이용한 여론 조작 및 악성 활동 탐지 사례와 대응 방안을 공개했다.
Claude Opus 4.5 공개
Anthropic이 코딩, 에이전트, 컴퓨터 사용 능력이 대폭 강화된 차세대 모델 Claude Opus 4.5를 공개했다.
비영리 단체를 위한 Claude
Anthropic이 비영리 단체의 영향력을 극대화하기 위해 최대 75% 할인 혜택과 전용 커넥터를 포함한 'Claude for Nonprofits'를 출시했다.
생명 과학 연구를 위한 Claude
Anthropic이 생명 과학 연구를 위해 Claude 성능을 개선하고 과학 플랫폼 Connectors와 Agent Skills를 도입했다.
AI 책임성 확보를 위한 경로 구축
Anthropic은 AI 모델의 평가, 위험 기반 평가, 대규모 학습 사전 등록 등을 포함한 AI 책임성 확보 방안을 제안했다.
AI 시스템 Red Teaming의 과제
AI 시스템의 안전성을 확보하기 위한 다양한 Red Teaming 방법론과 그에 따른 장단점 및 과제를 분석한다.
Claude를 위한 안전장치 구축
Anthropic은 Claude의 오남용을 방지하고 유익한 활용을 보장하기 위해 다각적인 안전장치(Safeguards) 구축 전략을 운영한다.
Anthropic의 책임 있는 스케일링 정책 (Responsible Scaling Policy)
Anthropic이 AI의 파괴적 위험을 관리하기 위해 AI 안전 등급(ASL)을 도입하는 '책임 있는 스케일링 정책(RSP)'을 발표했다.
Anthropic, Teach For All과 파트너십 체결
Anthropic이 Teach For All과 협력해 전 세계 63개국 10만 명 이상의 교사에게 Claude 기반 AI 교육을 지원한다.