AI가 없는 사실을 자신 있게 말하는 이유를 이해하고, 위험 신호를 찾는 법을 배웁니다.
AI 환각은 AI가 일부러 거짓말을 한다는 뜻이 아닙니다. AI는 사실 확인을 한 뒤 답변하는 존재가 아니라, 문맥에 맞는 그럴듯한 답변을 생성하는 시스템입니다. 빈칸이 생겼을 때 “모른다”고 멈추기보다, 있을 법한 이름, 숫자, 논문, 판례, 기관을 조합해 문장을 완성할 수 있습니다. 그래서 환각은 AI의 예외적 실수가 아니라 생성형 AI를 사용할 때 항상 고려해야 할 기본 위험입니다.
| AI 답변 표현 | 위험한 이유 | 다시 물어볼 질문 |
|---|---|---|
| “최근 연구에 따르면...” | 연구명과 발행 정보가 없다 | 그 연구의 제목, 저자, 발행연도, 링크를 알려줘 |
| “교육부 보고서에 따르면 87%...” | 보고서명이 없고 수치 출처가 불명확하다 | 해당 보고서의 정확한 문서명과 원문 링크를 알려줘 |
| “전문가들은 모두 동의한다” | 전문가 집단과 반대 의견이 빠져 있다 | 서로 다른 관점의 출처를 나눠서 제시해줘 |
| “가장 효과적인 방법이다” | 효과의 기준과 비교 대상이 없다 | 무엇과 비교해 어떤 기준에서 효과적인지 설명해줘 |
나는 어떤 표현이 나오면 AI 답변을 쉽게 믿게 되는가?
AI가 제시한 출처가 실제인지 확인하려면 무엇을 검색해야 하는가?
확인되지 않은 정보를 과제에 쓰면 어떤 문제가 생길 수 있는가?