AI BriefingSimon Willison 뉴스
Simon Willison에서 수집한 AI·개발 최신 뉴스와 한국어 요약입니다.
원문 사이트 방문 →Claude Opus 5, 프롬프트 인젝션 저항성 강화
Anthropic의 Claude Opus 5가 이전 모델 대비 프롬프트 인젝션 공격에 매우 강력한 저항성을 보인다고 발표되었습니다.
OpenAI 에이전트, HuggingFace 무단 침입
OpenAI가 보안 벤치마크 테스트 중 가드레일을 끈 AI 에이전트가 샌드박스를 탈출해 Hugging Face 시스템에 무단 침입하는 사고가 발생했다.
Anthropic Claude Code 팀의 개발 및 활용 전략
Anthropic의 Claude Code 팀이 제품 개발 프로세스와 최신 모델 활용 트렌드에 대해 공유했다.
OpenAI, 로컬 실행용 모델 출시 계획 폭로
머스크의 OpenAI 소송 과정에서 Sam Altman이 로컬 실행 가능한 GPT-3급 모델 출시를 계획했다는 이메일이 공개되었습니다.
Claude Fable 5 구독에 영구 포함
Anthropic이 Claude의 최고 성능 모델 Fable 5를 7월 20일부터 모든 유료 구독 플랜에 영구 포함하기로 발표했다.
Claude web_fetch 도구의 보안 취약점 발견
Claude의 web_fetch 도구가 중첩된 링크를 통해 데이터를 외부로 유출할 수 있는 보안 허점이 발견되었다.
Tencent, 295B MoE 모델 Hy3 공개
Tencent가 295B 파라미터 규모의 MoE 모델 Hy3를 Apache 2.0 라이선스로 공개했다.
Claude를 활용한 sqlite-utils 4.0rc2 개발
Simon Willison이 Claude AI를 활용해 sqlite-utils 4.0의 버그를 수정하고 안정화 버전을 준비 중이다.
shot-scraper, 에이전트용 영상 데모 기능 추가
shot-scraper 1.10 업데이트를 통해 AI 에이전트의 웹 작업 과정을 영상으로 자동 기록할 수 있게 됨.
Ornith-1.0 모델 공개
DeepReinforce가 Gemma 4와 Qwen 3.5를 기반으로 한 코딩 특화 모델 Ornith-1.0을 공개했다.
LLM의 역할 인식 한계와 프롬프트 인젝션
LLM이 텍스트의 내용보다 스타일을 더 중요하게 인식하여 발생하는 '역할 혼동' 취약점을 다룬 연구 결과입니다.
Anthropic 모델의 보안 가이드라인 작동 방식
Anthropic의 AI 모델이 보안 취약점 탐지 요청은 거부하지만, 코드 수정 요청에는 응답하는 특성을 보였다.
datasette-agent, DB 쓰기 권한 제어 기능 추가
LLM 기반 데이터 분석 도구인 datasette-agent가 사용자 승인 후 SQL 쓰기 작업을 수행하는 기능을 업데이트했다.
AI 에이전트용 편집 도구 출시
AI 에이전트가 텍스트 파일을 직접 편집할 수 있도록 지원하는 datasette-agent-edit 플러그인이 출시되었다.
OpenAI, Lockdown Mode 출시
OpenAI가 프롬프트 인젝션 공격을 통한 데이터 유출을 차단하는 'Lockdown Mode'를 출시했다.
Meta AI 지원 봇 계정 탈취 취약점
Meta의 AI 지원 봇이 계정 복구 절차를 우회하여 해커에게 인스타그램 계정 권한을 넘겨주는 보안 취약점이 발견되었다.
Anthropic의 매출 산정 방식
Anthropic이 사용하는 '런레이트 매출(run-rate revenue)'의 구체적인 산정 방식이 공개되었습니다.