프롬프트에도 4형식 문장이 있다.
타입A : 지시문 + 출력문
타입B : 지시문 + 맥락 + 출력문
타입C : 지시문 + 맥락 + 예시 + 출력문
타입D : 지시문 + 입력값 + 출력문
답변을 잘 받기 위해 고려해야 하는 요소들
프롬프트 구성의 네 가지 기본 요소: 강수진 박사는 효과적인 프롬프트 작성을 위한 네 가지 핵심 요소로 명령문, 문맥, 입력 데이터, 출력 지시문을 제시합니다. 마치 영어의 문장 형식처럼, 이러한 요소들을 적절히 조합하여 AI가 원하는 답변을 생성하도록 유도할 수 있습니다.
문맥의 중요성: 언어 모델이 질문의 의도를 정확히 파악하고 관련성 높은 답변을 생성하기 위해서는 충분한 문맥 정보 제공이 필수적임을 강조합니다. 특히, 음성 대화 시 맥락 이해의 어려움을 예시로 들며, 명확한 맥락 제공의 중요성을 설명합니다. “이 맥락이 언어 모델에서는 가장 중요해요”라는 언급은 문맥의 핵심적인 역할을 강조합니다.
입력 데이터 활용: 언어 모델이 참고해야 할 추가적인 정보(예시, PDF 파일 등)를 제공함으로써 답변의 정확성과 깊이를 향상시킬 수 있습니다. 이는 언어 모델의 할루시네이션(환각, 거짓 정보 생성)을 줄이고, 사용자가 원하는 특정 정보에 기반한 답변을 얻는 데 효과적입니다.
출력 지시문 명확화: 원하는 응답 형식, 포맷, 문체 등을 구체적으로 지정함으로써 AI가 사용자의 요구에 부합하는 결과물을 생성하도록 안내할 수 있습니다. 이는 보고서, 요약문 등 특정 목적에 맞는 결과물을 얻는 데 유용합니다.
프롬프트 타입별 전략 (A, B, C, D): 다양한 프롬프트 작성 전략을 예시를 통해 설명합니다.
타입 A (기본): 간단한 명령문으로 질문하는 기본적인 형태.
타입 B (문맥 추가): 답변의 범위를 좁히거나 특정 관점을 반영하기 위해 문맥 정보를 추가하는 형태.
타입 C (예시 활용): 원하는 답변의 구조나 형식을 명확히 제시하기 위해 예시를 포함하는 형태. 이는 특정 단어 사용이나 형식 준수를 강제하는 데 유용합니다. “예시를 어떻게 주냐에 따라서 답변을 그대로 혹은 유사하게 생성하는 능력이 있더라고 하더라도 나오게 할 수 있기 때문에 원하는 답을 넣어서 뽑기하는 경우도 있고요”라는 설명은 예시 활용의 핵심을 보여줍니다.
타입 D (입력 데이터 활용): 외부 정보(기사 내용 등)를 직접 입력하여 답변의 근거를 제공하고, 할루시네이션을 줄이는 형태.
언어 모델별 프롬프트 최적화: 각 언어 모델(챗GPT, 클로드, 퍼플렉시티 등)이 선호하는 프롬프트 구성 방식이 다를 수 있음을 언급하며, 실험을 통해 최적의 조합을 찾는 것이 중요하다고 강조합니다.
할루시네이션 문제와 해결: 언어 모델의 할루시네이션 발생률이 감소하고 있지만 여전히 존재하며, 입력 데이터 제공 등을 통해 이를 줄일 수 있음을 설명합니다. 특히, 요약 과정에서의 할루시네이션 가능성을 언급하며 주의를 당부합니다.
프롬프트 엔지니어링 핵심기법
- 프롬프트 엔지니어링 핵심 기법:롤 프롬프팅 (역할 부여): ChatGPT에게 특정 역할(“최고의 제안 전략가처럼 행동해”)을 부여함으로써 답변의 전문성과 관점을 제고할 수 있습니다. 이때 “~이다” 보다는 “~처럼 행동해”라는 표현이 더 효과적임을 강조합니다. 또한, 해당 분야의 전문 용어를 사용할수록 더 명확하고 효과적인 소통이 가능하다고 설명합니다. “‘이다’라는 표현보다 ‘~처럼 행동해’가 좋아요. 왜냐하면 ‘이다’라고 얘기하는 순간 ChatGPT는 원래 ChatGPT라고 알고 있거든요. 근데 얘의 인격을 바꾸는 거라 ‘나는 아닌데요’ 이렇게 얘기할 수 있기 때문에 약간 ‘처럼 행동해’는 충분히 AI가 할 수 있는 정도니까”라는 조언은 실질적인 도움이 됩니다.
- 지시문 (Instruction): 명확하고 구체적인 지시를 제공하는 것이 중요하며, AI가 이해하지 못하는 용어를 사용하는 경우 사전에 정의해 주어야 합니다.
- 퓨샷 프롬프팅 (Few-shot Prompting): 원하는 답변 형식이나 패턴을 예시를 통해 학습시키는 방법입니다. 소수의 예시를 제공함으로써 AI가 유사한 형태로 답변하도록 유도할 수 있으며, 출력 형식을 사용자가 원하는 대로 제어하는 데 효과적입니다.
- 검색 증강 생성 (RAG: Retrieval-Augmented Generation): 외부 검색 결과나 첨부된 파일을 기반으로 답변하도록 하는 기법입니다. 이는 최신 정보나 특정 문서 내용을 활용하여 답변의 정확성과 신뢰성을 높이는 데 필수적입니다. “지문으로 답변하는 게 검색 RAG다”라고 간결하게 설명하며, Perplexity와 같은 서비스가 RAG 기술을 활용하고 있음을 언급합니다.
- CoT (Chain of Thought): 복잡한 문제 해결 과정을 단계별로 설명하도록 유도하는 기법입니다. AI가 사고 과정을 거쳐 답변함으로써 정확도를 높이고, 논리적인 설명을 제공하도록 할 수 있습니다. “Let’s think step by step”과 같은 문구를 프롬프트에 포함시키는 것이 효과적임을 소개합니다.
동영상출처 : 티타임즈TV (강수진박사)