프롬프트 설계

프롬프트는 단순한 글쓰기가 아니라, 동적 입력을 받아 명확하게 전달해야 하는 설계 문제다. 그래서 저자는 이를 prompt engineering보다 prompt design이라고 부르는 편이 더 정확하다고 본다.

웹디자인과의 공통점도 분명하다.

• 둘 다 전달의 명확성이 핵심이다.
• 둘 다 고정된 문장이 아니라 동적 콘텐츠를 다뤄야 한다.
• 둘 다 크기에 맞게 내용을 조정해야 한다. 웹디자인은 화면 크기, 프롬프트는 context window다.

실무적으로도 두 영역은 비슷하다. 실제 프롬프트를 렌더링해 봐야 문제를 잡을 수 있고, "Hi ${username} ${message}"처럼 언뜻 괜찮아 보이는 템플릿도 렌더링 후에는 이름과 메시지가 섞여 보일 수 있다. 또한 컴포저블 컴포넌트, declarative 스타일, 그리고 GPT-3.5 같은 덜 강한 모델에서는 pixel perfection에 가까운 세밀한 포맷 관리가 모두 중요하다고 말한다.

에이전트 프롬프트는 한 단계 더 나아가, 함수 호출로 버튼을 누를 수 있는 인터랙티브 웹사이트처럼 볼 수 있다. 호출이 일어날 때마다 프롬프트가 다시 렌더링되며, 이후 구간만 바꿔 재렌더 비용을 줄이는 식으로 캐시를 의식해야 한다.

이 관점을 바탕으로 만든 것이 Priompt다. Cursor 내부에서 쓰는 React 유사 JSX 기반 프롬프트 디자인 라이브러리로, 문자열 템플릿보다 훨씬 다루기 쉽고 주석 처리도 간단하다. 또 실제 요청에서 들어온 직렬화된 props를 저장해 두었다가, 프리뷰 화면에서 동일한 props로 프롬프트를 재현하고 소스 코드를 수정하며 실시간으로 확인할 수 있다.

다만 한계도 있다. 모델이 빨리 바뀌고, GPT-4보다 더 나은 모델에서는 픽셀 단위의 정교함이 덜 중요해질 수 있다. 긴 context window, 더 적은 프롬프트 제어권, function calling, 그리고 LangChain 같은 상위 추상화가 앞으로 프롬프트 자체를 얼마나 남겨둘지도 불확실하다고 본다. 그럼에도 지금은 여전히 원시 모델에 가장 가까운 수준에서 작업하는 편이 낫다는 판단이다.