[KT 에이블스쿨]04.18 프롬프트 엔지니어링

자연어처리(Natural Language Processing)

- 컴퓨터가 인간의 언어를 이해하고 처리할 수 있도록 하는 인공지능 기술

 

주요기능)

- 텍스트 처리

- 텍스트 변환

- 문장 이해

- 대화 및 질의응답

- 음성 인식

- 감성 분석

 

---

 

언어 모델(Language Model)

- 주어진 문장에서 다음 단어를 예측하거나 문장의 확률을 계산하는 모델

- NLP의 하위 개념, 텍스트 데이터 기반으로 문맥 예측, 자연어 생성

 

주요 기능)

- 단어 예측 및 생성

- 문장 생성 

- 텍스트 이해 및 변환

---

거대 언어 모델(Large Language Model)

- 대규모 데이터와 수십억 개 이상의 매개변수를 학습하여 인간 수준의 자연어 이해와 생성을 수행하는 ai 모델

 

특징)

- 대규모 매개변수

- 광범위한 사전 학습

- 일반화 능력

 

주요 기능)

- 자연어 이해

- 텍스트 생성

- 대화형 AI

- 정보 검색 및 요약

- 기계 번역

- 감성 분석

- 코드 생성 및 sw 개발

- 도메인 특화 AI

---

Chat GPT

- 채팅에 특화된 모델

- Generative : 새로운 텍스트를 생성하는 생성형 AI

- Pre-trained : 방대한 데이터를 학습하여 기본적인 언어 능력을 갖춤

- Transformer : 강력한 자연어 이해 및 생성 능력을 제공하는 모델 구조

 

chat gpt의 파인튜닝 기법

RLHF(Reinforcement Learning by Human Feedback)

- 보다 자연스럽고 인간 친화적인 대화를 생성하도록 학습함

- 단순한 지도학습을 넘어, 강화학습 적용

- 사용자 의도를 더 잘 반영하고 안전하고 유용한 응답을 생성하는 방향으로 모델 최적화

 

1단계 : 사전학습(pre-training)

2단계 : 지도학습(Supervised Fine-tuning)

보상 모델링(Reward Modeling, RM) 학습

3단계 : 강화학습(Reinforcement Learning)

---

프롬프트 엔지니어링(Prompt Engineering)

- 다양한 애플리케이션과 연구 분야에서 언어 모델을 최적화하여 활용하기 위한 기술

- 자연어처리(NLP)와 생성적 디자인 모델 등에 특정 입력(프롬프트)을 제공하여 원하는 출력을 유도하는 기술

 

필요한 이유)

• 정확한 응답 유도
• 효율적인 AI 활용 및 자동화
• 모델의 한계 극복 및 성능 향상
• 비용 절감 및 최적화
• 창의적이고 맟춤형 응용 가능

프롬프트 엔지니어링 활용

• 사용자: 일반적인 작업부터 복잡한 작업까지 LLM의 역량을 극대화
• 개발자: LLM 및 다양한 도구와 상호작용할 수 있도록 효과적인 인터페이스를 설계하고 최적화

대화형 언어 모델

- 질문이 좋지 못하면 답변 또한 좋지 못함

 

사용자가 인공지능으로부터 원하는 답변을 얻기 위한 방안

- 프롬프트 미세 조정

- 반복적 실험

- 맞춤형 프롬프트 저장, 관리의 지속적 수행

 

프롬프트 엔지니어링의 목적 정의

궁극적 목적

- 사용자 의도에 부합하는 만족도 높은 답변을 얻는 것

기술적 목적

- 언어 모델의 추론 영역(범용 전문가에서 특정 분야 전문가로)을 축소시키는 것

- 언어 모델로 하여금 추론을 이어가게 하는 것

 

 

---

프롬프트 작성 가이드

1. 역할 놀이(Role Playing)

- 사용자는 연출자, AI는 배우의 입장에서 연출자가 배우에게 배역을 부여하듯이 AI에게 특정 역할 부여

- 구체적으로 원하는 스타일과 방식으로 답변하도록 가이드를 주는 것

 

역할을 지정하는 이유

- AI의 답변 스타일과 관점 조절 가능

- 더 전문적이고 깊이 있는 응답 유도

- 창의적인 결과 도출

tip) ai 뿐만 아니라 사용자의 역할을 모두 지정하자

---

2. 적절한 예시를 보여주자

Few-Shot Prompting

- ai가 원하는 방식으로 응답을 유도하기 위해, 사용자가 몇 가지 예시(Few-Shots)를 제공하는 프롬프트 기법

- ai가 사전 훈련된 데이터만으로 새로운 작업을 수행하는 대신, 제공된 예제를 기반으로 패턴을 학습하고 유사한 응답 생성을 유도

 

Few-Shot Prompting을 효과적으로 활용하는 방법

- 예시만 나열하지 말고 패턴을 설명하라

• 예시만 나열하면 ai는 어떤 패턴을 중점적으로 따라야 하는지 혼란스러워 할 수 있음
• 어떤 방식으로 답변을 만들어야 하는지를 설명해주면 더 효과적

- 원하는 스타일을 구체적으로 명시하라

• 친근한톤, 간결한 문장 등 원하는 스타일을 ai가 이해하도록 추가 설명

---

3. 목적은 분명히, 배경은 자세히 설명

- 이러한 언어 모델은 정답을 찾는게 아니라, 그럴듯한 답변을 생성하는 ai임

- 더 정확하고 의도에 맞는 답변을 얻기 위해서는 목적을 분명히 하고, ai가 충분한 맥락을 이해하도록 배경을 자세히 설명해야 함

---

4. 문제를 나누어 단계별로 추론하게 하자

사고의 연결고리(Chain-of-Thought, CoT)

- 단순 응답이 아닌 점진적으로 논리를 구축하면서 답을 생성하도록 유도

- 프롬프트 마지막에 "Let's think step by step"을 삽입함으로써 CoT를 유도할 수 있음

 

---

아이데이션(Ideation)

- 새로운 아이디어를 창출하고 발전시키는 과정

- 문제를 해결하거나 새로운 기회를 찾기 위해 다양한 방법을 활용하여 아이디어를 탐색하고 구체화하는 활동 포함

 

특징)

- 창의적 사고 과정

- 다양한 아이디어 생성

- 팀 협업 중심

 

중요성)

- 문제 해결 능력 향상

- 조직의 경쟁력 강화

 

LLM을 이용한 아이데이션 절차

• 목적과 Context를 바탕으로 Prompt 구성
• First Prompt를 통해 키워드 도출
• Prompt에 대한 답변을 바탕으로 추가질문 생성
• 꼬리물기 질의를 통해 키워드 도출 및 병합

 

---

엑셀 함수 찾기 프롬프트

LLM을 이용한 엑셀 사용법

 

• 함수 사용법과 공식 이해
• 오류 메시지 분석 및 문제 해결
• 매크로를 위한 VBA 스크립트 작성
• 엑셀 작업에서의 단축키, 숨겨진 기능, 생산성 팁
• 데이터 전처리 및 시각화

작성 가이드

- 목표를 명확하게 이해할 것

- 기능 프로세스를 자세히 설명할 것