오픈바이어스, LLM 정책 프록시 공개
EVERY single LLM and Agent fail and mess up because no enforcement is done at runtime. This LangChain friendly tool which fixes exactly that.
·2026.04.26 07:56
Open Bias가 LLM 호출 앞단에서 RULES.md 기반 규칙을 강제한다.
Open Bias는 LLM 애플리케이션과 모델 공급자 사이에 들어가는 프록시로, RULES.md를 읽어 요청과 응답을 실시간으로 평가한다.
- pre-call에서 보류된 개입을 적용하고, post-call에서 동기·비동기 엔진을 실행한다.
- 위반 처리 방식은
block,intervene,shadow세 가지다. - 기본 스타터
RULES.md와 자동 evaluator를 제공하고,openbias.yaml로 엔진, 트레이싱, 강제 방식을 조정한다. - 엔진은
judge,nemo,fsm,llm으로 나뉘며,judge는 비동기라 핵심 경로 지연이 0ms,nemo는 200-800ms,fsm과llm은 experimental이다. - 비핵심 위반은 다음 턴에 반영하도록 비동기 처리하고, 기존 OpenAI 호환 클라이언트는
base_url만http://localhost:4000/v1로 바꾸면 붙는다.
이 요약은 원문 이해를 돕기 위한 큐레이션입니다. 저작권은 원저작자에게 있으며, 정확한 내용과 맥락은 원문을 확인하세요.
요약 오류, 출처 표기 문제, 삭제 요청은 문의 · 건의로 알려주세요.