AI가 하는 거지말(환각 현상) 구별하는 팩트 체크 습관

  인공지능과 대화를 나누다 보면 소름이 돋을 정도로 똑똑함을 알 수 있다. 어려운 용어들을 척척 풀어내고, 전문적인 법률 용어를 비롯해서, 의학 정보도 잘 제공해 준다. 복잡한 역사적 사건들에 대해서도 순식간에 요약해 주고, 내용을 자세히 알려주기도 한다. 하지만 이 똑똑함이 인간을 위험에 빠드리는 경우들이 있다. 가끔 세상에 없는 사실을 있는 것처럼 자신 만만하게 말을 하기 때문이다. 그래서 이것을 ‘환각 현상(Hallucination)’이라고 한다. 자신이 모르는 사실을 인정하기보다는 앞뒤 맥락에 어울리는 그럴싸한 말을 만들어 내는 본능을 가지고 있어 최대한 사실에 입각한 답변을 하도록 학습시켜야 한다. 아는 것은 많지만 모르는 질문을 받으면 체면 때문인지는 모르지만 거짓말을 한다. 평소 아는 체하는 친구와 같고, 가끔은 나의 모습이기도 하다. 이 친구의 말을 100% 믿었다가 엉터리 정보를 상식으로 알거나, 중요한 의사결정에서 큰 실수를 저지를 수 있다.

  AI는 왜 거짓말을 하는가?

  AI는 사전에 나오는 것처럼 정해진 정의를 기억하는 것만이 아니라, 다음에 올 수 있는 확률 높은 단어를 찾아서 답변을 한다. 그러다 보니 사실 관계가 맞지 않아도, 문법적으로 완벽하고, 논리적으로 매끄러우면 그것을 정답이라고 내놓는다. 한국의 역사, 세밀한 법률 지식, 아주 최신 정보일수록 허풍은 더 심해질 수 있다. 그래서 팩트 체크를 위한 3가지 습관을 가져야 한다.
  첫째로, 출차와 근거를 반드시 되물어라. AI가 흥미로운 정보나 통계치를 내놓았다면, 그것의 근거는 무엇이고, 출처는 어디인지를 물어보는 습관이 필요하다. 또는 맞춤설정에 입력하거나, AI 기억 메모리에 기억시켜야 한다.

"방금 네가 말한 그 사건, 어느 뉴스나 책에서 나온 거야? 신뢰할 수 있는 출처를 알려줘."
만약 AI가 "죄송합니다, 제가 혼동했습니다"라고 사과하거나 출처를 얼버무린다면, 그 정보는 가짜일 확률이 매우 높다.

둘째로는 교차 검증을 해야 한다. 중요한 정보라면 AI 한 명의 말을 듣는 것이 아니라, 다른 AI에게 물어보거나, 검색 엔진을 통해 찾아보아야 한다. 실제로 내가 AI를 활용하여 중요한 정보를 찾을 때에는 ChatGPT에게 물어보고, Perplexity난 felo에게 검증을 한다. “00 내용에 대해 팩트체크 해줘.”라고 질문을 통해 검증을 한다. 검색 기반을 가진 AI들이 나를 대신에서 검색을 하고 그 내용의 출처와 팩트를 찾아서 알려준다.

  세 번째는 숫자와 이름은 일단 의심해보아야 한다. 고유명사(사람이름, 지명)와 구체적인 숫자(연도, 금액)는 많이 써 본 내가 보아도 많은 실수를 한다. “우리 아이 행복한 부자 만들기” 책을 공저로 집필하면서 가장 오류가 심했던 것이 숫자였다. 대개의 경우 없는 것을 있는 것처럼 하는 경우였다. ‘세조의 맥북 사건‘ 같은 것은 쉽게 알 수 있지만, “20xx 년 00 수령액이 5.1% 인상되었다.”는 식의 정교한 것은 꼭 직접 확인해야 한다. 숫자와 이름이 포함된 정보는 공식 사이트를 통해 한 번 더 확인하는 습관을 가져야 한다.

  결정권은 언제나 ’ 사람’에게 있다.

  AI가 거짓말을 덜하게 하는 팁은 질문 끝에 “확실하지 않은 정보라면 모른다고 말해줘.” 혹은 “사실에 근거해서 아주 보수적으로 답변해 줘.”와 같은 것을 덧붙이는 것이다. 이렇게 경고를 주면 허풍을 떨 확률이 그만큼 낮아지게 된다. AI는 훌륭한 조수일뿐이다. 결코 책임자가 될 수 없다. 인공지능이 내놓은 결과물을 그대로 복사해서 남에게 전달하거나 블로그에 올리는 것은 위험한 일이다. 인생의 후반전에 당신이 가진 많은 지혜가 쌓인 정보가 어떤 것이 진짜이고 가짜인지를 구별하는 선구안을 가지고 있다고 자만해서는 안된다. 화려한 답변 뒤에 숨은 빈틈을 찾아내는 ‘비판적 사고’가 인생 후반전에 필요함을 알아야 한다. 당신의 날카로운 질문과 꼼꼼함이 더해지면, AI가 비로소 당신의 훌륭한 오른팔이 되어 준다.

https://백근시대.my.canva.site/

백근시대

지금은 백근시대