AI Briefing#ai-security
#ai-security와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
#ai-security와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
GitHub가 LLM 기반의 문맥적 추론을 도입하여 시크릿 스캐닝의 오탐을 줄이고 탐지 정확도를 높였다.
ChatGPT가 학습 데이터 오염으로 인해 파산한 브랜드의 가짜 웹사이트를 추천하는 보안 문제가 발생했습니다.
송금 내역을 이용한 간접 프롬프트 인젝션 공격이 뱅킹 AI 에이전트를 피싱 도구로 악용할 수 있음이 밝혀졌다.
카카오뱅크가 Vision Transformer를 활용해 고객의 연속적인 행동 패턴을 분석하는 시퀀스 기반 FDS 모델을 개발했다.
토론토 대학교 연구진이 공개된 AI 모델을 활용해 스스로 전략을 수정하며 확산하는 'AI 웜'의 위험성을 증명했다.
Anthropic이 보안 취약점 탐지에 특화된 Mythos 모델을 15개국 150개 기업으로 확대한다.
Anthropic이 소프트웨어 보안 강화를 위해 Project Glasswing 파트너를 150개 조직으로 확대한다.
LLM 에이전트의 보안 취약점 패치 능력을 평가하는 새로운 벤치마크 CVE-Bench가 공개되었다.
Hugging Face 공개 학습 데이터에서 유효한 자격증명 22만 개가 발견됐다.
ChatGPT for Google Sheets 확장 프로그램에서 간접 프롬프트 주입을 통한 데이터 유출 및 피싱 공격 취약점이 발견됨.
Anthropic이 Claude.ai, Claude Code 등 제품별로 적용된 다양한 샌드박스 및 격리 기술을 공개했다.
데이터 오염 문제를 해결하고 동적 방어 환경을 반영한 AI 보안 평가 벤치마크 PolyRange가 공개되었다.
공공 부문 CISO를 위해 AI를 활용한 보안 프로그램 구축 로드맵과 단계별 실행 전략을 제시한다.
AI 에이전트 도입 시 발생하는 보안 및 거버넌스 문제를 해결하기 위해 하네스 엔지니어링 도입이 필요하다.
AI 추론 비용이 급증함에 따라, 이를 무단으로 사용하거나 재판매하는 추론 도난(Inference Theft) 공격에 대한 강력한 방어 체계가 필요하다.
AI Gateway가 팀 단위로 사용 가능한 AI 프로바이더를 제한할 수 있는 허용 목록 기능을 지원한다.
AI 도구가 간단한 프롬프트만으로 Linux와 Windows의 보안 취약점을 찾아내는 새로운 위협이 나타나고 있다.
Cisco는 AI 수요가 하이퍼스케일러를 넘어 기업 및 소버린 클라우드로 확산되며 네트워킹 중심의 인프라 사이클이 도래할 것이라고 전망했다.