스트리밍 및 도구 호출(tool-calling) AI 백엔드를 위한 Go LLM SDK (React 프론트엔드 라이브러리 포함)
·2026.07.30 20:55
Grafana에서 Vercel AI SDK와 호환되는 Go 기반의 LLM SDK를 공개했다.
Grafana가 Go 언어 환경에서 LLM 호출, 스트리밍, 도구 실행(tool-calling), 구조화된 출력 등을 지원하는 ai-sdk를 출시했습니다. 이 SDK는 Vercel의 AI SDK와 설계 철학을 공유하며, TypeScript 프론트엔드와의 **와이어 호환성(wire-compatible)**을 유지하는 것이 특징입니다.
주요 특징은 다음과 같습니다:
- React 호환성: Go 백엔드에서 생성된 SSE(Server-Sent Events)를 React의
useChat,useCompletion,useObject등의 훅에서 별도의 프로토콜 변환 없이 직접 사용할 수 있습니다. - 다양한 모델 지원: Anthropic, Amazon Bedrock, OpenAI 및 OpenAI 호환 API를 지원합니다.
- 도구 및 구조화된 출력: 일반 Go 함수를 모델의 도구로 호출할 수 있으며, 스키마 검증이 완료된 객체 및 배열 형태의 데이터를 생성할 수 있습니다.
- 운영 환경 제어: 타임아웃, 폴백(fallback), 로깅, Prometheus 메트릭 및 에이전트 관측성(Observability) 설정을 지원하여 프로덕션 환경에 적합한 기능을 제공합니다.
이 요약은 원문 이해를 돕기 위한 큐레이션입니다. 저작권은 원저작자에게 있으며, 정확한 내용과 맥락은 원문을 확인하세요.
요약 오류, 출처 표기 문제, 삭제 요청은 문의 · 건의로 알려주세요.
