Introduction
발표자 소개
첫 번째 섹션은 류지영 님께서 발표를 하셨다.
소프트웨어 3.0 과 프롬프트 엔지니어링
소프트웨어(프로그램) = 데이터 + 알고리즘
으로 구성되어 있다.
소프트웨어 1.0 이란,
데이터를 알고리즘으로 조작하거나
데이터에서 알고리즘으로 데이터를 추출 또는 변환하여 결과를 내는 것을 말한다.
소프트웨어 2.0 이란,
데이터를 학습하고 데이터를 학습한 머신러닝 모델을 만들어 내는 것을 말한다.
Q) 머신러닝 모델은 소프트웨어인가?
A) 그렇다. 데이터를 학습한 머신러닝 모델에서 데이터를 추출할 수 있고, 또 머신러닝 그 자체가 알고리즘이 되어서 데이터를 만들어내기 때문에 머신러닝 모델 자체가 소프트웨어라 부를 수 있다.
소프트웨어 3.0 이란,
머신러닝 모델을 프로그램으로 제어하는 것을 말한다.
즉, 사용자 중심의 개발과 유연하게 솔루션을 제공하는 것을 말한다.
이것이 요즘 얘기하는 LLM, GPT 등이 되겠다.
참고로, 소프트웨어 3.0 은 기존 소프트웨어 1.0 과 소프트웨어 2.0 이 모두 포함된 형태로 확장된 기술이다.
프롬프트 엔지니어링
프롬프트 엔지니어링이란?
컴퓨터와 대화하는 방법으로 컴퓨터에게 업무를 시키는 새로운 방식의 개발 방법론을 뜻한다.
프롬프트 테크닉
zero-shot
중간 추론 단계의 예시를 직접 제공하지 않는 방법이다.
Q) 자전거에 대해 설명해줘
Q) 랜덤한 자연수를 5개 생성해줘
등과 같이 간단하게 명령하는 테크닉이다.
one-shot 및 few-shot
하나 또는 다수의 예제나 템플릿을 제공해주고 이를 기반으로 답변을 생성하게 만드는 방법이다.
Q) 아라비아 숫자를 입력하면 영어로 변환해줘.
예를 들어, 1 은 'one' 이고, 2는 'two' 이다.
이와 같이 질문을 할 수 있다.
COT(chain-of-thought)
답변에 도달하는 과정을 학습시키는 것을 목적으로, 본 질문 전에 태스크와 추론 과정을 포함한 문제 해결 가이드를 컴퓨터에게 전달하는 프레임워크이다.
컴퓨터에게 제공하는 Q)
내가 10개의 사과를 가지고 있다. 이 중, 5개를 먹었다. 그럼 몇 개의 사과가 남아있는가?
컴퓨터에게 제공하는 A)
처음에 10개의 사과를 가지고 있었고 이 중 5개를 먹었으므로 남은 사과는 10 - 5 = 5.
정답은 5개 이다.
(위 내용과 함께 아래 본 질문을 컴퓨터에게 한다.)
Q) 내가 23개의 사과를 가지고 있었다. 내가 3개를 먹고 이후에 또 4개를 먹었다.
그렇다면 남은 사과의 개수는?
위와 같이 사용자가 A) 처럼 컴퓨터에게 문제를 해결하는 “단계” 를 제공하고, 컴퓨터는 그 방식대로 문제를 해결하는 것을 말한다.
zero-shot COT
위 COT 와는 조금 다르게 문제 해결 가이드를 제공하지 않고, 단순히 사용자의 질문 끝에 “단계별로 생각해보자” 따위로 컴퓨터에게 제공하는 방법이다.
Q) 내가 23개의 사과를 가지고 있었다. 내가 3개를 먹고 이후에 또 4개를 먹었다.
그렇다면 남은 사과의 개수를 단게별로 생각하여 답변해줘.
프롬프트 디자인
프롬프트 디자인이란?
내가 원하는 답변을 LLM 로 부터 얻어내기 위해 프롬프트 구조를 설계하는 과정을 말한다.
구성요소
role
답변자로서 페르소나를 지정하는 것을 말한다. 이렇게 하여 컴퓨터가 답변에 대한 지식을 갖게 하도록 한다.
Q) 당신은 기획자이다. 한국에서 유행할 만한 앱을 기획해줘.
audience
답변의 대상이 되는 특정 사용자, 그룹 등 개인의 페르소나를 지정하는 것을 말한다.
Q) 초등학생이 이해하기 쉽도록 양자역학에 대해 설명하라.
knowledge
LLM 이 답변에 참고할 만한 정보를 제공하는 것을 말한다. 사용자의 질문에 해당하는 정보를 DB 또는 검색 엔진 등으로부터 가져와서 삽입하는 방식이다.
비슷한 방식으로 예를 들어 “위키피디아의 내용을 참고해서 답변해줘” 라고 할 수 있다.
task
수행해야 하는 특정 작업 또는 목표를 사용자가 지정해주는 방식이다.
Q) 500 단어 내외로 자기소개서를 작성하라.
policy format
- style
LLM 이 응답을 만들 때, 따라야 하는 특정 정책이나 규칙을 정해주는 것.
Q) 신나고 유쾌한 말투로 여행 계획서를 작성하라.
- constraint
특정 제약 조건을 지정해주는 것
Q) 5분 내외로 발표할 수 있는 발표 스크립트를 작성하라.
example
응답의 예시를 제공하여 사용자가 원하는 형태의 답변을 도출해낼 수 있도록 도와주는 것을 말한다.
