the-story-why

안녕하세요! 9번째 시간입니다. 지금까지 우리는 AI의 창의력을 폭발시키는 '제약 조건' 훈련까지 마쳤습니다. 이제 여러분은 AI를 꽤나 능숙하게 다룰 수 있게 됐을 거예요. 하지만 오늘은 AI를 다룰 때 가장 중요하고, 가장 무서운 함정에 대해 이야기해야 합니다. 바로 AI가 밥 먹듯이 저지르는 '그럴싸한 거짓말' 입니다. 🤯 "교수님, 챗GPT가 그랬단 말이에요!" the-story-why.blogspot.com 📝 [시리즈 7호] AI를 고장 내는 법? "말도 안 되는 질문" 던지기 (창의성 훈련) AI와 대화하다 보면 너무 똑똑하고, 너무 자신감 넘치는 말투에 깜빡 속아 넘어갈 때가 많습니다. 모르는 걸 물어보면 0.1초 만에 날짜, 인물, 통계까지 척척 대답해 주죠. [실제 대학생 참사 썰] 한 학생이 과제를 하면서 챗GPT에게 "이 주제와 관련된 유명한 학자 5명만 알려줘"라고 요청했습니다. AI는 실존하지 않는 가짜 학자 이름과 그럴싸한 가짜 논문 제목 5개를 만들어냈고, 학생은 그걸 그대로 복붙해서 제출했다가 0점 처리되었습니다. 😱 이처럼 AI가 사실이 아닌 정보를 마치 사실인 것처럼 당당하게 지어내는 현상을 '환각(Hallucination)' 이라고 부릅니다. 🔍 AI는 왜 거짓말을 할까? (ft. 킹받는 옆자리 친구) AI는 '악의'를 가지고 거짓말을 하는 게 아닙니다. AI의 작동 원리를 알면 이해하기 쉬워요. AI는 '진실' 을 찾는 검색엔진이 아닙니다. AI는 '가장 그럴싸하게 들리는 문장' 을 예측해서 만드는 '확률 기계'에 가깝습니다. [비유] 공부 안 했는데 아는 척하는 친...