프로덕션 환경에서 LLM 에이전트 안정화하는 프롬프트 엔지니어링

LLMMixer라는 LLM 워크플로 엔진을 v0.3으로 업데이트하면서 프로덕션 환경에서 터지는 모든 문제를 AI와 함께 해결했다. 이 글에서는 복잡한 시스템을 안정화할 때 효과적인 AI 활용 패턴과 프롬프팅 전략을 다룬다. 배경: 무엇을 만들고 있는가 LLMMixer는 Claude, GPT, Gemini를 하나의 워크플로로 연결해서 복잡한 작업을 자동화하는 엔진이다. 개발 단계에서는 잘 돌아가던 코드가 실제 사용자들이 들어오니까 온갖 edge case에서 터졌다. 주요 문제들: node-pty lazy loading 실패로 터미널 기능 죽음 SSE(Server-Sent Events) 중복 메시지로 UI 깨짐 adapter 상태 관리 race condition interactive CLI 모드에서 hang 걸림 이런 복잡한 디버깅 작업을 AI에게 맡기려면 단순히 "버그 찾아줘"로는 안 된다. 체계적인 접근이 필요하다. 시스템 컨텍스트를 AI에게 완벽하게 전달하는 법 복잡한 시스템 디버깅에서 가장 중요한 건 AI가 전체 아키텍처를 이해하게 만드는 것이다. 효과적인 시스템 분석 프롬프트 TypeScript 기반 LLM 워크플로 엔진의 production reliability 이슈를 분석해줘. 아키텍처 개요: Core: adapter pattern으로 Claude/GPT/Gemini 통합 Dashboard: Next.js 기반 웹 UI, SSE로 실시간 상태 동기화 CLI: node-pty로 interactive 터미널 모드 지원 현재 문제: node-pty require() 시점에 따라 intermittent failure SSE duplicate message causing state corruption adapter non-interactive 모드에서 hanging 분석 우선순위: Race condition 가능성 높은 부분 먼저 lazy loading pattern 검증 singleton persistence 로직 검토 각 문제별로 root cause와 fi