📝 [시리즈 009] AI가 밥 먹듯이 하는 거짓말! 1초 만에 간파하는 법 (비판적 사고 훈련)

안녕하세요! 9번째 시간입니다.

지금까지 우리는 AI의 창의력을 폭발시키는 '제약 조건' 훈련까지 마쳤습니다. 이제 여러분은 AI를 꽤나 능숙하게 다룰 수 있게 됐을 거예요.

하지만 오늘은 AI를 다룰 때 가장 중요하고, 가장 무서운 함정에 대해 이야기해야 합니다.
바로 AI가 밥 먹듯이 저지르는 '그럴싸한 거짓말'입니다.

🤯 "교수님, 챗GPT가 그랬단 말이에요!"

the-story-why.blogspot.com📝 [시리즈 7호] AI를 고장 내는 법? "말도 안 되는 질문" 던지기 (창의성 훈련)

AI와 대화하다 보면 너무 똑똑하고, 너무 자신감 넘치는 말투에 깜빡 속아 넘어갈 때가 많습니다. 모르는 걸 물어보면 0.1초 만에 날짜, 인물, 통계까지 척척 대답해 주죠.

[실제 대학생 참사 썰]
한 학생이 과제를 하면서 챗GPT에게 "이 주제와 관련된 유명한 학자 5명만 알려줘"라고 요청했습니다. AI는 실존하지 않는 가짜 학자 이름과 그럴싸한 가짜 논문 제목 5개를 만들어냈고, 학생은 그걸 그대로 복붙해서 제출했다가 0점 처리되었습니다. 😱

이처럼 AI가 사실이 아닌 정보를 마치 사실인 것처럼 당당하게 지어내는 현상을 '환각(Hallucination)'이라고 부릅니다.

🔍 AI는 왜 거짓말을 할까? (ft. 킹받는 옆자리 친구)

AI는 '악의'를 가지고 거짓말을 하는 게 아닙니다. AI의 작동 원리를 알면 이해하기 쉬워요.

AI는 '진실'을 찾는 검색엔진이 아닙니다.
AI는 '가장 그럴싸하게 들리는 문장'을 예측해서 만드는 '확률 기계'에 가깝습니다.

[비유] 공부 안 했는데 아는 척하는 친구
여러분 반에 꼭 이런 친구 있죠? 잘 모르면서도 왠지 자신감 넘치게 아무 말이나 막 하는 친구.
AI가 딱 그 친구와 비슷합니다. 데이터가 부족하거나 잘 모르는 영역도 "모르겠습니다"라고 말하기보다, 자기가 아는 단어들을 조합해서 '가장 정답처럼 보이는' 문장을 만들어내고 봅니다.
문제는, 이 친구의 말솜씨가 너무 뛰어나서(거의 전교 1등급) 우리가 속수무책으로 당한다는 거죠.

🛡️ AI의 거짓말에 속지 않는 3가지 방패 (비판적 사고 훈련)

우리가 AI의 주인이 되려면, AI가 물어다 준 정보가 '진짜'인지 '가짜'인지 구별할 줄 알아야 합니다. 이 능력이 바로 '비판적 사고'입니다.

1. '일단 의심' 모드 장착하기
   AI의 모든 답변을 '최종 정답'이 아니라 '초고(Draft)'라고 생각하세요. "오, AI가 이렇게 말하네? 진짜 그런가?" 하고 한 번만 의심하는 습관을 들이는 것이 비판적 사고의 첫걸음입니다.
2. '교차 검증(Cross-Check)' 생활화하기
   AI가 특정한 '사실(Fact)'을 말했다면, 반드시 다른 곳에서 확인해야 합니다.
   • AI: "셰익스피어는 1610년에 '로미오와 줄리엣'을 썼습니다."
   • 나: (바로 구글 검색) → "어라? 구글에는 1597년이라고 나오네. AI 너 틀렸구나?"
   • 체크리스트: 이름, 날짜, 숫자, 통계, 인용문 등 '딱 떨어지는 정보'는 무조건 교차 검증하세요.
3. AI에게 "출처"를 요구하기 (따져 묻기)
   AI가 그럴싸한 말을 하면, 그냥 넘어가지 말고 "그 정보 어디서 봤어? 출처(Source)가 뭐야?"라고 되물어보세요.
   • (주의!) AI는 가끔 출처(논문 주소, 뉴스 기사 링크)까지 지어내기도 합니다! 😅
   • 따라서 출처를 받았다면, 그 링크가 실제로 존재하는지, 내용이 일치하는지까지 확인해야 완벽한 검증입니다.

✨ 오늘의 미션: AI 거짓말 탐지기 되어보기

AI의 '환각'은 우리가 비판적 사고만 장착한다면 최고의 '창의력 자극제'가 될 수도 있습니다. (가짜 정보를 가지고 새로운 상상을 할 수도 있으니까요!)

[미션] 지금 챗GPT에 가서, 여러분이 잘 모르는 분야의 '놀라운 사실 3가지'를 알려달라고 해보세요.
그리고 그 3가지 사실을 구글, 네이버, 위키피디아 등에서 팩트체크해 보세요.
과연 AI는 몇 개나 맞혔고, 몇 개나 틀렸나요?
AI가 지어낸 가장 그럴싸했던 거짓말을 댓글로 공유해 주세요! 👇