프롬프트 엔지니어링 완전정복

프롬프트 엔지니어링은 LLM에게 원하는 출력을 끌어내는 입력 설계 기술이다. 모델을 재학습하지 않고 입력만으로 성능을 끌어올리는 가장 비용 대비 효과가 높은 방법으로, 2023년 이후 AI 실무자의 핵심 역량이 됐다.

개요

대형 언어 모델(LLM)은 동일한 모델이라도 프롬프트 구성 방식에 따라 결과물 품질이 극단적으로 달라진다. 프롬프트 엔지니어링은 이 차이를 설계로 통제하는 기술이다. API 비용 절감, 응답 일관성 확보, 자동화 파이프라인 안정화 등 실무 전반에 직접 영향을 준다.

핵심 패턴 비교

패턴	설명	적합 작업	토큰 비용
Zero-shot	예시 없이 지시만	단순 분류·번역	최저
Few-shot	예시 2~5개 제공	형식·톤 고정	중
Chain-of-Thought	단계적 추론 유도	수학·논리·분석	중~고
ReAct	추론+도구 사용	에이전트·검색	고
Tree-of-Thought	분기 탐색 후 최적 선택	복잡 기획	최고

시스템 프롬프트 설계

시스템 프롬프트는 모델의 역할·제약·출력 형식을 정의한다. 효과적인 시스템 프롬프트는 세 가지 요소로 구성된다.

역할 부여

모델에게 구체적인 페르소나를 부여하면 응답 톤과 깊이가 일관되게 유지된다. 예: "당신은 10년 경력 시니어 백엔드 엔지니어입니다. 항상 트레이드오프를 명시하고, 확실하지 않은 내용은 그렇다고 밝힙니다."

출력 형식 명시

JSON 스키마, 마크다운 헤딩 구조, 글자 수 제한 등을 명시하면 파이프라인 파싱 오류가 90% 줄어든다.

제약 조건

"~하지 마라" 형태의 부정 지시보다 "~만 포함하라" 형태의 긍정 지시가 더 효과적이다[^1].

Few-shot 예시 선택 기준

예시의 수보다 예시의 다양성이 중요하다. 분류 작업이라면 각 클래스의 경계 사례를 예시로 넣는 것이 전형 사례보다 성능을 높인다. 예시 순서도 영향을 준다 — 모델은 마지막 예시에 가장 가까운 패턴을 따르는 경향이 있다.

Chain-of-Thought(CoT) 활성화

CoT는 "단계별로 생각해라(think step by step)"라는 단순 지시만으로도 활성화된다. 복잡한 수학 문제에서는 표준 프롬프트 대비 정답률이 2~3배 향상된 사례가 보고됐다.

CoT를 쓸 때는 최종 답변을 별도 태그로 구분하도록 지시해 파싱을 쉽게 한다. 예: "추론은 think 태그 안에, 최종 답은 answer 태그에 쓰라."

흔한 실수

• 모호한 지시: "좋은 글을 써라" → "설득력 있고, 문단당 3~5문장, 전문 용어 없이" 수준으로 구체화
• 과도한 컨텍스트: 관련 없는 배경 정보가 핵심을 희석시킨다. 컨텍스트 윈도우는 넓을수록 초기 지시의 영향력이 약해진다
• 출력 형식 미지정: 자동화 파이프라인에서 치명적. 항상 형식을 명시하라
• 부정 지시 남용: "~하지 마라"는 모델이 되새기는 과정에서 역효과가 날 수 있다

RAG와 결합 시 RAG 아키텍처 패턴 문서를 참고하라. 비용 최적화는 LLM 비용 최적화 전략에서 다룬다.

[^1]: Anthropic, "Prompt Engineering Guide", 2025. 부정형 지시는 모델이 내부적으로 해당 개념을 활성화시키는 부작용이 있다는 연구 결과 기반.