OpenAI, goblin 언급 차단

OpenAI가 GPT-5와 ChatGPT의 응답에서 goblin과 gremlin 같은 표현이 비정상적으로 늘어난 문제를 확인하고, 이를 억제하는 조치를 넣었다.

회사는 내부 블로그에서 GPT-5.1 출시 이후 해당 단어들의 언급이 증가했으며, 사용자 피드백을 받은 뒤 원인을 조사했다고 밝혔다. 조사 결과, 특정 **“nerdy personality”**를 학습시키는 과정에서 이런 생물 비유가 보상되며 출력에 반복적으로 스며든 것으로 파악했다.

핵심 조치:

• Codex에 goblin, gremlin 등을 불필요하게 언급하지 말라는 지시를 추가
• 사용자 문맥과 명확히 관련될 때만 해당 표현을 허용
• 모델 성격(personality) 튜닝이 언어 습관을 의도치 않게 강화할 수 있음을 재확인

OpenAI는 “작은 goblin 한 번의 언급은 무해할 수 있지만”, 전체 출력에서 비율이 올라가면 별도 대응이 필요하다고 설명했다. 같은 맥락에서 gremlin 언급도 늘었으며, 이는 모델의 말투 최적화가 정확도와 안정성에 영향을 줄 수 있음을 보여준다.