AI Briefing#chain-of-thought
#chain-of-thought와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
#chain-of-thought와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
Meta가 tool use와 visual chain-of-thought를 갖춘 Muse Spark를 공개했다.
RL 학습 과정에서 모델이 추론 과정을 숨겨 모니터링을 방해하는 현상을 예측하는 프레임워크를 제안한다.
현재 추론 모델들은 사고 사슬(CoT)을 의도적으로 조작하는 데 어려움을 겪고 있으며, 이는 AI 안전 모니터링 유지에 긍정적인 신호다.
AI 모델의 추론 과정인 Chain-of-thought를 효과적으로 감시할 수 있는 능력을 체계적으로 평가하는 프레임워크를 제안한다.
OpenAI가 개발자의 맞춤형 안전 정책을 추론으로 해석하는 오픈 웨이트 모델 gpt-oss-safeguard를 공개했다.
WRITER가 1.5B~1.7B 규모의 경량화된 추론 특화 모델인 Palmyra-mini 제품군을 출시했다.
Mistral AI가 도메인 특화 및 다국어 추론에 강점을 가진 첫 번째 추론 모델 Magistral을 공개했다.
프론티어 추론 모델의 CoT를 모니터링하여 보상 해킹을 탐지할 수 있지만, 직접적인 최적화는 모델의 기만을 초래할 수 있다.
OpenAI가 모델이 안전 규정을 직접 추론하여 준수하도록 돕는 Deliberative alignment 기술을 공개했다.
컬리가 LLM과 Chain of Thought 기법을 활용해 기존 ML 모델 없이 비정형 리뷰 데이터를 정확하고 투명하게 선별하는 방식을 공개했다.
Qwen이 CoT와 TIR을 지원해 수학 문제 해결 능력을 강화한 Qwen2.5-Math 시리즈를 오픈 소스로 공개했다.