AI Briefing#ai-security
#ai-security와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
#ai-security와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
보이스 에이전트의 민감한 작업 수행을 위해 LLM의 판단이 아닌 도구 기반의 결정론적 인증 설계가 필수적이다.
Anthropic이 AI의 취약점 탐지 능력을 방어 목적으로 활용하기 위해 주요 기업들과 함께 'Project Glasswing'을 발표했다.
Google이 Amazon, OpenAI 등과 협력해 오픈 소스 보안 강화를 위해 1,250만 달러를 투자한다.
Cloudflare가 AI Security for Apps를 GA로 공개하고, 엔드포인트 발견 기능을 무료화했다.
프롬프트 인젝션이 사회 공학적 기법으로 진화함에 따라, 단순 필터링을 넘어 시스템의 영향력을 제한하는 설계가 필요하다.
Anthropic은 중국 AI 기업들이 Claude의 성능을 무단 추출하기 위해 대규모 디스틸레이션 공격을 수행했음을 확인했다.
Replit은 AI 모델의 비결정론적 한계를 극복하기 위해 정적 분석과 LLM 추론을 결합한 하이브리드 보안 모델을 제안한다.
OpenAI가 자동화된 레드팀 기술을 통해 ChatGPT Atlas의 프롬프트 인젝션 방어 체계를 지속적으로 강화한다.
카카오뱅크는 if(kakao)25에서 AI 보안, 개발 생산성, 데이터센터 운영 기술을 공개했다.
2025년 봄 Amazon Research Awards에서 63명이 41개 대학, 8개국을 대표해 선정됐다.
Anthropic이 AI 에이전트 기술을 악용한 최초의 대규모 사이버 스파이 캠페인을 탐지하고 차단했다.
AI 공급망 보안을 강화하기 위해 모델 서명(Model Signing) 기술 도입이 중요해지고 있다.
Anthropic이 미국과 영국의 AI 보안 기관과 협력하여 Claude 모델의 취약점을 점검하고 안전장치를 강화했다.
OpenAI가 US CAISI 및 UK AISI와 협력하여 AI 에이전트의 보안 취약점을 점검하고 시스템을 강화한다.
Replit은 AI가 생성한 코드의 보안 취약점을 방지하기 위해 플랫폼 내에 자동화된 보안 기능을 통합했다.
Hugging Face가 JFrog의 스캐너를 도입하여 모델 가중치 내 악성 코드 탐지 기능을 강화한다.