AI Briefing#goodfire
#goodfire와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
#goodfire와 관련된 AI·개발 뉴스를 최신순으로 모았습니다. 원문 출처와 한국어 요약을 함께 확인할 수 있습니다.
Goodfire는 해석성을 정렬의 핵심 병목으로 지목하고 감지, 디버깅, 설계 로드맵을 제시했다.
Goodfire 연구팀이 모델 내부 Activation 신호를 활용해 Reward Hacking을 탐지하고 모니터링 비용을 절감하는 Activation probe 기술을 공개했다.
Goodfire가 AI 해석 가능성 연구자를 위해 최대 100만 달러 규모의 무료 Silico 사용권을 제공하는 보조금 프로그램을 시작했다.
파라미터 분해(Parameter Decomposition) 기술을 통해 모델의 다른 언어 능력은 유지하면서 독일어 능력만 정밀하게 제거하는 데 성공했다.
학습 전 데이터 분석을 통해 모델의 행동 변화를 예측하고 데이터셋을 최적화하는 기술을 소개한다.