챗GPT 거짓말 안 하게 하는 법｜복사해서 쓰는 프롬프트 5개·설정 방법

Q. 챗GPT가 그럴듯하게 거짓말하는 걸 막는 프롬프트나 설정이 있나요? 

A. 거짓말(할루시네이션)을 완전히 없애는 설정은 없지만 크게 줄일 수는 있습니다. ① "모르면 모른다고 답해" 허용하기, ② 참고 자료를 직접 붙여 넣고 그 안에서만 답하게 하기, ③ 주장마다 근거 문장 붙이게 하기, ④ 웹 검색을 켜고 출처 확인하기, ⑤ 설정 → 개인 맞춤 설정 → 사용자 지정 지침에 위 규칙을 저장하기가 핵심입니다. 중요한 수치·날짜·인용은 반드시 원문으로 다시 확인해야 합니다.

 

✅ 핵심만 정리 

✔ 챗GPT가 거짓말하는 이유: OpenAI는 모르는 질문에도 추측하는 편이 유리하도록 평가·학습되기 때문이라고 설명 

✔ 가장 효과적인 프롬프트: 모른다고 말할 권한 주기, 참고 자료 제공, 주장별 근거 인용 

✔ 설정 경로: 설정 → 개인 맞춤 설정 → 사용자 지정 지침 (Free·Go 1,500자, Plus 이상 5,000자) 

✔ 웹 검색을 켜면 인용 출처가 표시되며, 출처가 답변을 실제로 뒷받침하는지 직접 확인해야 함 

👉 프롬프트는 오류를 줄일 뿐 없애지는 못하므로 논문·판례·수치는 항상 원문 대조

 

 

 

 

1. 챗GPT는 왜 모르는 것도 아는 척 거짓말을 하나요?

 

OpenAI는 2025년 공개한 글에서 할루시네이션의 원인을 평가 방식에서 찾았습니다. 정답 비율만 채점하면 모델은 "모른다"고 답해 0점을 받기보다 찍는 편이 유리하기 때문입니다. 객관식 시험에서 찍으면 맞힐 수도 있지만 빈칸은 항상 0점인 것과 같습니다. 또 다음 단어를 예측하는 사전학습 과정에는 참·거짓 라벨이 없어서, 생일처럼 무작위적이고 드물게 나오는 사실은 패턴만으로 예측할 수 없어 오류가 생깁니다. OpenAI가 든 예시에서는 논문 제목과 생일을 물었을 때 서로 다른 답 3개를 내놓았고 전부 틀렸습니다.

 

 

지표 (SimpleQA)	gpt-5-thinking-mini	o4-mini
기권률(모른다고 답한 비율)	52%	1%
정답률	22%	24%
오류율	26%	75%

 

o4-mini는 정답률이 2%p 높지만 오류율은 49%p 높습니다. 불확실할 때 추측하면 정답은 조금 늘지만 틀린 답이 훨씬 더 많이 늘어난다는 뜻입니다. 그래서 사용자가 프롬프트로 "추측하지 말고 모른다고 답해도 된다"고 알려 주는 방식이 의미를 갖습니다.

(출처: OpenAI - Why language models hallucinate)

 

 

 

2. 모른다고 답하게 하는 프롬프트는 어떻게 쓰나요?

 

 

앤트로픽(Claude) 공식 가이드는 환각을 줄이는 기본 전략으로 불확실하면 모른다고 말해도 된다는 명시적 권한을 주는 방법을 첫 번째로 제시합니다. 챗GPT에도 같은 원리로 적용할 수 있습니다. 아래 문장은 위 원리를 바탕으로 만든 예시이며, 질문 끝이나 사용자 지정 지침에 그대로 붙여 쓸 수 있습니다.

 

목적	프롬프트 예시
모른다고 말할 권한 주기	확실하지 않거나 근거가 없으면 추측하지 말고 "확실하지 않습니다" 또는 "모릅니다"라고 답해줘.
확신 정도 표시	답변마다 확실한 내용과 추정인 내용을 나눠서 표시해줘.
수치·고유명사 제한	숫자, 날짜, 인물, 논문 제목은 출처를 알 수 있을 때만 쓰고, 모르면 비워 둬줘.
가짜 인용 방지	존재 여부를 확인할 수 없는 논문, 판례, 링크는 만들어내지 말고 "확인 불가"라고 써줘.
답변 후 자기 점검	답변을 쓴 뒤 근거가 약한 문장을 스스로 찾아서 따로 표시해줘.

(출처: Claude Docs - Reduce hallucinations, OpenAI - Why language models hallucinate)

 

 

 

 

3. 참고 자료를 주고 그 안에서만 답하게 하려면 어떻게 하나요?

 

 

OpenAI 프롬프트 가이드는 모델이 프롬프트 밖의 데이터에만 의존하지 않도록 응답에 쓸 추가 컨텍스트를 프롬프트에 넣는 방법을 권합니다. 앤트로픽 가이드도 긴 문서를 다룰 때 먼저 원문 그대로의 인용문을 뽑게 한 뒤, 그 인용문만 근거로 분석하게 하라고 안내합니다. 또 답변을 쓴 뒤 각 주장에 대한 근거 인용을 찾게 하고, 근거를 찾지 못한 주장은 삭제하게 하는 방법도 제시합니다. 이 방식은 보고서 요약, 채용공고 분석, 약관 해석처럼 원문이 있는 작업에 특히 잘 맞습니다.

 

 

단계	프롬프트 예시	효과
1. 자료 붙여넣기	아래 [자료]만 근거로 답해줘. 일반 지식은 쓰지 마.	외부 지식 개입 차단
2. 인용 먼저 추출	질문과 관련된 문장을 원문 그대로 먼저 뽑아줘. 없으면 "관련 문장 없음"이라고 써줘.	답변이 실제 텍스트에 기반
3. 인용 기반 답변	뽑은 문장만 근거로 답하고, 각 문장 끝에 근거 번호를 붙여줘.	주장별 검증 가능
4. 근거 없는 주장 삭제	근거 문장이 없는 주장은 삭제하고 삭제한 자리에 [ ]를 표시해줘.	억지 답변 제거

(출처: Claude Docs - Reduce hallucinations, OpenAI - Prompt engineering)

 

 

 

4. 사용자 지정 지침에 저장하면 매번 입력하지 않아도 되나요?

 

 

네, 사용자 지정 지침에 규칙을 저장해 두면 새 대화에서도 같은 규칙을 적용할 수 있습니다. 웹·데스크톱은 설정 → 개인 맞춤 설정 → 사용자 지정 지침, 모바일(iOS·Android)은 설정 → ChatGPT 맞춤 설정 → 사용자 지정 지침 필드에 입력합니다. 먼저 "맞춤 설정 사용"이 켜져 있는지 확인해야 합니다. 글자 수 제한은 Free·Go 요금제가 1,500자, Plus·Pro·Business·Enterprise·Education 요금제가 5,000자입니다.

 

 

항목	내용
웹·데스크톱 경로	설정 → 개인 맞춤 설정 → 사용자 지정 지침
모바일 경로	설정 → ChatGPT 맞춤 설정 → 사용자 지정 지침
글자 수 제한	Free·Go 최대 1,500자 / Plus·Pro·Business·Enterprise·Education 최대 5,000자
끄는 방법	"맞춤 설정 사용" 끄기 또는 입력한 지침 삭제
저장 예시(1,500자 이내)	모르거나 확실하지 않은 내용은 추측하지 말고 모른다고 답해줘. 숫자·날짜·출처는 근거가 있을 때만 쓰고, 확인할 수 없는 논문·판례·링크는 만들지 마. 답변 끝에 근거가 약한 부분을 따로 표시해줘.

 

지침 수정이 기존 대화에 즉시 반영되는지는 도움말 안에서도 설명이 엇갈리므로, 새 대화에서 규칙이 적용되는지 직접 확인하는 것이 안전합니다.

(출처: OpenAI 도움말 - ChatGPT 사용자 지정 지침)

 

 

 

5. 웹 검색을 켜면 거짓말이 줄어드나요?

 

웹 검색을 쓰면 최신 정보를 근거로 답하고 인용 출처를 함께 보여 주기 때문에 검증이 쉬워집니다. 최신 정보가 도움이 되면 ChatGPT가 자동으로 검색할 수 있고, 수동으로는 입력창에서 / 를 눌러 검색을 고르거나 모든 도구 보기에서 검색을 선택합니다. 답변의 인용을 선택하면 해당 출처가 열리고, 출처 버튼에서 인용된 링크를 한눈에 볼 수 있습니다. 다만 OpenAI는 검색 결과가 불완전하거나 오래되었거나 부정확할 수 있으니 인용된 출처가 답변을 실제로 뒷받침하는지, 게시 또는 업데이트 날짜가 언제인지 확인하라고 안내합니다.

 

 

상황	권장 방법
최신 제도·수치·일정	검색을 켜고 "공식 기관 자료만 근거로, 출처와 발행일을 함께 써줘"라고 요청
출처가 의심될 때	출처, 날짜, 지역을 지정해서 다시 검색 요청
답변 재확인	인용 링크를 눌러 원문에 해당 내용이 실제로 있는지 대조
이용 가능 요금제	Free, Go, Plus, Pro, Business, Enterprise, Edu (요금제별 사용량 한도 있음)

(출처: OpenAI 도움말 - ChatGPT 웹 검색)

 

 

 

6. 그래도 거짓말은 남는데, 어떻게 검증해야 하나요?

 

 

프롬프트로 환각을 줄여도 완전히 없애지는 못합니다. 앤트로픽 가이드도 이런 기법이 환각을 크게 줄이지만 없애지는 못하며, 중요한 의사결정에서는 핵심 정보를 별도로 검증해야 한다고 밝힙니다. 대표적인 실제 사례가 2023년 미국 뉴욕 연방법원 사건입니다. 변호사 두 명이 ChatGPT로 작성한 준비서면에 존재하지 않는 판례를 인용했고, 판사는 이를 허위 판결로 판단해 2023년 6월 22일 법률사무소에 5,000달러 벌금을 부과했습니다. 판사는 가짜라는 징후를 외면하고 법원을 오도하는 진술을 했다고 지적했습니다.

 

 

 

검증 대상	확인 방법
논문·판례·기사 인용	제목을 검색해 실제 존재 여부와 원문 내용 대조
수치·통계	정부·기관 원자료에서 같은 수치 찾기
날짜·제도 변경	공식 홈페이지 공고의 게시일 확인
링크	직접 클릭해 열리는지, 내용이 일치하는지 확인
의심스러운 답변	같은 질문을 다시 물어 답이 달라지면 근거 요청 (앤트로픽 가이드의 Best-of-N 검증 원리)

(출처: CNBC - ChatGPT cited bogus cases for a New York federal court filing(2023-05-30), Bloomberg Government - Phony ChatGPT Brief Leads to $5,000 Fine for NY Lawyers(2023-06-22), Claude Docs - Reduce hallucinations)

 

 

 

⁉️ FAQ : 챗GPT 거짓말 방지 자주 묻는 질문

 

Q1. "거짓말하지 마"라고만 써도 효과가 있나요? 

막연한 금지 문장보다 "모르면 모른다고 답해", "출처를 알 수 없는 수치는 쓰지 마"처럼 행동 기준을 구체적으로 주는 편이 낫습니다. OpenAI 설명대로 모델은 추측이 유리하게 학습돼 있어서, 모른다고 답해도 된다는 허용을 명시해 주는 것이 핵심입니다.

 

Q2. 사용자 지정 지침은 무료 요금제에서도 되나요? 

모든 요금제에서 사용할 수 있습니다. 글자 수는 Free·Go가 1,500자, Plus 이상 요금제가 5,000자까지입니다.

 

Q3. 챗GPT가 알려 준 출처 링크는 믿어도 되나요? 

링크를 눌러 원문을 직접 확인해야 합니다. OpenAI도 검색 결과가 불완전하거나 오래되었거나 부정확할 수 있다고 안내하며, 인용된 출처가 답변을 실제로 뒷받침하는지 확인하라고 합니다.

 

Q4. 과제나 보고서에 챗GPT 답변을 그대로 써도 되나요? 

권하지 않습니다. 논문 제목, 통계, 날짜처럼 사실을 다루는 부분은 원문 대조가 필요하고, 2023년 미국 법원 사례처럼 확인 없이 쓴 허위 인용이 실제 제재로 이어진 사례도 있습니다.

 

 

🔑 정리하면

 

첫째, 챗GPT의 거짓말은 모르는 질문에도 추측하는 편이 유리한 평가·학습 구조에서 생긴다는 것이 OpenAI의 설명입니다. 

둘째, 프롬프트에 "모르면 모른다고 답해", "자료 안에서만 답해", "주장마다 근거 문장을 붙여줘"를 넣으면 오류를 줄일 수 있습니다. 

셋째, 설정 → 개인 맞춤 설정 → 사용자 지정 지침에 규칙을 저장하고, 필요할 때는 웹 검색을 켜서 출처를 확인합니다. 

넷째, 어떤 설정도 거짓말을 없애지 못하므로 논문·판례·수치·링크는 반드시 원문과 대조합니다.

 

 

 

 

📚 함께 읽으면 좋은 글

 

📚 함께 읽으면 좋은 글

대학교 학점 평균, 요즘 졸업생은 몇 점일까｜A학점 비율·4.5 기준·평점 계산법

휴학 언제 하는 게 좋을까｜신청 방법·휴학 추천 기간, 주요 대학 공통 기준

[자소서 특기 리스트 50개] 직무별로 골라 쓰는 이력서 취미 특기 예시