오픈바이어스, LLM 정책 프록시 공개

Open Bias는 LLM 애플리케이션과 모델 공급자 사이에 들어가는 프록시로, RULES.md를 읽어 요청과 응답을 실시간으로 평가한다.

• pre-call에서 보류된 개입을 적용하고, post-call에서 동기·비동기 엔진을 실행한다.
• 위반 처리 방식은 block, intervene, shadow 세 가지다.
• 기본 스타터 RULES.md와 자동 evaluator를 제공하고, openbias.yaml로 엔진, 트레이싱, 강제 방식을 조정한다.
• 엔진은 judge, nemo, fsm, llm으로 나뉘며, judge는 비동기라 핵심 경로 지연이 0ms, nemo는 200-800ms, fsm과 llm은 experimental이다.
• 비핵심 위반은 다음 턴에 반영하도록 비동기 처리하고, 기존 OpenAI 호환 클라이언트는 base_url만 http://localhost:4000/v1로 바꾸면 붙는다.