AI Briefing#rlhf
#rlhf와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
#rlhf와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
17개 LLM 평가 결과 환각 발생률 33~60%로 나타나며 검증 계층 부재가 주요 원인으로 지목됐다.
Anthropic 엔지니어가 Claude Code의 프롬프트 제안은 RLHF 학습용이 아니라고 밝혔다.
Reef Infra가 사용자 피드백을 강화학습 신호로 변환하는 OpenClaw-RL 레시피와 세션 매칭 기술을 공개했다.
TRL v1.14가 NCCL 대신 스토리지 버킷과 프록시를 활용해 LoRA 어댑터를 동기화하는 Async GRPO 기능을 공개했다.
Paul Christiano가 OpenAI Foundation 이사회와 안전 및 보안 위원회에 합류하여 AI 정렬 및 거버넌스 감독을 강화한다.
TRL과 OpenEnv를 활용해 인간 미적 취향을 보상 함수로 학습한 수채화 생성 코딩 모델의 오픈 소스 재현 프로젝트가 공개됐다.
긴 컨텍스트가 모델의 활성화 상태를 변화시켜 RLHF 기반의 안전 제약을 약화시킨다는 연구 결과가 발표되었다.
AI 가치 정렬 연구 94편을 분석한 결과, 대다수 논문이 '가치'를 명시적으로 정의하지 않고 선호와 효용 극대화에 의존하고 있음이 드러났다.
NeurIPS 2023에서 발표된 RLHF 및 RLAIF의 최신 연구 동향과 주요 논문을 소개한다.
LLM의 성능 향상을 위한 RLHF 및 RLAIF의 최신 연구 트렌드와 DPO, Fine-Grained RLHF 방법론을 소개한다.
ACL 2024에서 발표된 LLM의 한계 극복을 위한 최신 연구 트렌드와 LG AI Research의 성과를 소개한다.
ZPPO는 Replay Buffer를 활용해 모델이 어려운 질문을 반복 학습하게 함으로써 일반화 성능 저하 없이 난제 해결 능력을 높인다.
Meta가 AI 경쟁력을 위해 엔지니어 조직을 데이터 라벨링 중심의 ADO 조직으로 강제 재편하며 내부 갈등을 겪고 있다.
Cursor가 Composer 2.5를 공개하고 하루 10배 사용량을 제공했다.
Anthropic은 Claude 정렬 훈련에서 '왜'를 가르치는 방식이 더 잘 일반화한다고 밝혔다.
저자는 SFT, RL, OPD를 분포 관점에서 비교하며 정책 기반 샘플링의 중요성을 강조했다.
Hugging Face가 다양한 RL 프레임워크의 성능과 확장성을 비교한 인터랙티브 가이드를 공개했다.
P-GRPO는 그룹별 보상 이력으로 개인 선호를 분리해 GRPO의 편향을 줄인다.
비동기 강화학습(Async RL)의 효율성을 높이기 위한 16개 오픈소스 라이브러리의 설계 패턴과 기술적 차이점을 분석했다.
미드트레이닝과 병렬 RL 파이프라인을 적용해 한국어 성능 저하 없이 Agentic 능력을 강화했다.
Anthropic이 안전하고 신뢰할 수 있는 AI 모델 개발을 위해 5억 8,000만 달러 규모의 Series B 투자를 유치했다.