Few Shot 기법

5단 분석법

순서	분석	단어	내용
1	일반 명사	Few	약간의 수, 몇몇
		Shot	한 잔[모금]
		Few Shot	약간의 잔[모금]
		기법	기교, 방법을 통틀어 부르는 말
		Few Shot 기법	약간의 잔을 사용하는 방법
2	고유 명사	Few Shot 기법	약간의 정보를 제공하여 답변의 질을 올리는 기법
3	사용 이유	Few Shot 기법	예시를 제공하여 더 나은 성능이 발휘하도록 유도하기 위해서
4	사용 방법	Few Shot 기법	답변받고 싶은 내용과 비슷한 예시를 2~3개정도 제공한다
5	다른 기술과의 비교	Few Shot 기법	-

Few Shot 기법의 정의

일반 명사

Few	약간의 수, 몇몇
Shot	한 잔[모금]
Few Shot	약간의 잔[모금]
기법	기교, 방법을 통틀어 부르는 말
Few Shot기법	약간의 잔을 사용하는 방법

Few 의 일반 명사는 “약간의 수, 몇몇” 입니다.

Shot 의 일반 명사는 “한 잔[모금]” 입니다.

기법의 일반 명사는 “기교, 방법을 통틀어 부르는 말” 입니다.

즉, Few Shot 기법의 일반 명사는 “약간의 잔을 사용하는 방법” 입니다.

고유 명사

Few Shot기법

약간의 정보를 제공하여 답변의 질을 올리는 기법

Few Shot 기법의 고유 명사는 “약간의 정보를 제공하여 답변의 질을 올리는 기법” 입니다.

ChatGPT와 같은 대규모 언어 모델은 예전의 인공지능 모델과 비교하면 비교적 뛰어나다고 할 수 있습니다. 하지만 복잡한 작업에서는 여전히 개선이 필요한 것이 사실입니다.

프롬프트에 예시를 제공하여 더 나은 성능으로 답변할 수 있도록 유도하는 것이 Few Shot 기법 입니다. 우리가 커피를 마실 때 Shot을 추가하면 추가할 수록 진해지는 것처럼 프롬프트에 예시(Shot)을 추가하면 추가할 수록 답변의 질이 좋아지는 것과 같습니다.

사용해야하는 이유

Few Shot기법

예시를 제공하여 더 나은 성능이 발휘하도록 유도하기 위해서

Few Shot 기법 사용 이유는 “예시를 제공하여 더 나은 성능이 발휘하도록 유도하기 위해서” 입니다.

ChatGPT를 사용해서 특정한 답변틀을 정하여 그 틀 안에서만 답변을 하도록 해야하는 경우가 있습니다.

예를 들어, 만족도 조사 설문을 100명에게 받은 뒤 데이터화를 하였습니다.

100명의 데이터가 한 줄씩 100줄이 나열되어 있는데 이 데이터를 그냥 GPT에게 준 다음 긍정과 부정으로 분류해달라는 요청을 하면 해줄 수는 있지만 애매한 문장을 분류할 수 있는 능력이 현저히 떨어집니다. ’이게 만족스럽나?’ 라는 문장이 적혀있다면 GPT는 높은 확률로 긍정으로 분류할 확률이 높습니다.

사람은 ‘이게 만족스럽나?’ 라는 문장을 보면 어조에서 부정이라는 분류를 할 수 있습니다. 하지만 GPT는 단순 확률 예측형 모델이기 때문에 긍정이라고 분류를 하게 되는 것입니다.

하지만 이 경우도 애매한 문장 몇 가지를 긍정/부정으로 분류하여 제공한다면 애매한 문장을 사람의 기준에서 올바르게 분류할 확률이 매우 높아지게 됩니다.

사용 방법

Few Shot기법

답변받고 싶은 내용과 비슷한 예시를 2~3개정도 제공한다

Few Shot 기법 사용 방법은 “답변받고 싶은 내용과 비슷한 예시를 2~3개정도 제공한다” 입니다.

Few Shot 기법은 사용자가 답변으로 받고 싶은 정보 또는 예시를 2~3개정도 제공을 한 뒤 질문이나 요청을 하면 됩니다. 예시를 많이 들수록 답변의 질이 좋아질 것 같지만 정보가 너무 많아지면 GPT는 확률 예측에 있어 혼란이 오기 때문에 2개 또는 3개가 제일 적당합니다.

가상주소를 만들어달라는 요청을 하는 것을 캡쳐한 이미지

가상주소를 만들기 위해서 ChatGPT에게 요청을 하였습니다. 하지만 내가 원하는 답변을 하지 않는 것을 볼 수 있습니다. 이때 Few Shot 기법을 사용해서 몇 가지 예시를 프롬프트에 포함 해준다면 사용자가 원하는 답변을 할 수 있도록 유도할 수 있습니다.

Few Shot 기법을 적용한 뒤 가상 주소를 만들어달라고 요청하는 것을 캡쳐한 이미지

Few Shot 기법을 사용하여 3가지의 예시를 제공해주고 가상 주소를 요청한 경우 적절한 주소를 만들어주는 것을 확인할 수 있습니다. 이 처럼 예시에 기반한 정보를 만들어달라고 요청하고 싶을 때 Few Shot 기법을 활용할 경우 좋은 답변을 이끌어낼 수 있습니다.

답변 정확도 검토

위 예시에서 만들어 준 가상주소는 ‘대한민국 경상남도 의정부시 상록로 123-45’ 입니다. 이 주소는 실제로 존재하는 곳일까요? 지도를 한 번 확인해보겠습니다.

구글 맵스, 24.02.07 기준

의정부시는 경기도에 위치하고 있다고 하고, 상록로는 대구광역시 수성구에 위치하고 있다고 합니다. 틀린 정보를 준 것 같습니다.

ChatGPT를 사용해서 얻은 정보가 100% 일치한다라고 생각하면 안됩니다. ChatGPT에게 FewShot 기법을 사용해서 사전 예시를 풍부하게 제공했다고 해도 어느 부분에서 환각 현상이 발생할 지는 사용자가 예측할 수 없습니다.

그렇기 때문에 Few Shot 기법을 사용해서 풍부한 정보를 제공했다고 해도 ChatGPT가 답변을 한 내용은 꼭 사용자가 다시 검토를 해보아야 합니다.