생성형 AI의 '할루시네이션'은 버그인가? 기능인가?

  최근 한 전문직에 계신 분께서 흥미로운 고민을 털어놓으셨습니다. "ChatGPT 유료 버전을 사용하는데, 정말 유용하지만 너무 자연스럽게 거짓말을 해서 문제예요." 이 말씀을 듣고 보니, 생성형 AI에 대한 우리의 복잡한 감정이 그대로 드러나는 것 같았습니다. 편리함을 주고 있으면서도 믿을 수 없는 불신 사이에서 갈등을 하고 있습니다. 사실 이 지적은 반은 맞고 반은 틀렸습니다. 맞는 부분은 AI가 정말로 천연덕스럽게 잘못된 정보를 제공한다는 것입니다. 초창기에는 우리가 쉽게 알아챌 수 있을 정도로 명백한 오류들이 많았습니다. 그런데 지금은 어떨까요? AI가 제공하는 답변이 맞는 것처럼 보이고, 문장도 매우 자연스러워 전문가들도 진위를 구별하기 어렵습니다.

 

  이것은 AI의 자연스러운 언어 구사력이 매우 향상되었다는 반증이기도 합니다. 진위를 구별하는 난이도가 많이 올라가 있습니다. 전문분야인 의학, 법률, 과학에서 AI는 그럴듯한 오류들을 생성하고 있습니다. 의학 분야 논문 초고, 법률 문서 요약에서 전문가조차 AI의 오류를 잘 구분하지 못하는 경우들이 나오고 있습니다. 하지만 전문가라면 실사용을 하면서 내용을 꼼꼼히 검증하고, 제공한 참고 문헌이나 데이터, 구체적 사실관계를 확인한느 것이 중요합니다. 그렇다면 왜 AI는 이렇게 '거짓말'을 하는 걸까요? 이에 대한 답은 OpenAI 창립자 샘 알트만의 발언에서 찾을 수 있습니다. 그는 AI의 할루시네이션을 단순한 결함이 아닌, 창의성의 원천으로 바라보는 관점을 제시했습니다.

 

  할루시네이션은 양날의 검이다. 

  2023년 9월, 샘 알트만은 AI 환각 현상에 대해 흥미로운 관점을 제시했습니다. 그는 할루시네이션이 생성형 AI의 '마법 같은 경험'의 핵심 요소라고 설명했습니다. 즉, 이것은 버그가 아니라 기능이라는 것입니다. 이 관점에서 보면 AI의 진짜 가치는 기존 데이터를 단순히 재생산하는 것이 아니라, 새로운 생각과 가능성을 제시하는 데 있습니다. 만약 AI가 100% 확신할 수 있는 것만 말하도록 제한한다면, 사람들이 열광하는 그 창의적 마법은 사라질 것이기 때문입니다. 혁신적인 아이디어나 예상치 못한 관점의 전환도 함께 사라지게 되는 것입니다.

 

  하지만 이는 양날의 검이기도 합니다. 창의성의 원천이 되는 동시에 잘못된 정보 전달의 위험성도 함께 안고 있기 때문입니다. 특히 전문적인 조언이나 중요한 의사결정이 필요한 상황에서는 더욱 신중해야 합니다. OpenAI 역시 이러한 딜레마를 인식하고 있습니다. 샘 알트만은 "필요할 때는 창의적으로, 필요할 때는 정확하게" 대응할 수 있는 균형 잡힌 시스템 개발을 위해 연구를 지속하고 있다고 밝혔습니다. 동시에 사용자들에게는 지나친 맹신으로 인한 오용을 경계하라고 당부하기도 했습니다.

 

  그렇다면 우리는 어떻게 대응해야 할까요? 답은 지속적인 팩트 체크와 비판적 사고에 있다고 할 수 있습니다. 『AI 강의 2025』 저자인 박태웅 소장도 비판적 사고를 강조하고 있습니다. 지속적인 토론을 해야 한다고 합니다. 실제로 여러 모델들을 사용하고 있는 제가 보는 관점도 비슷합니다. 추가적인 것이 있다면, AI의 각기 다른 특성을 이해하고 활용하되, 그 결과물에 휘둘리지 않는 자세가 필요하다는 것입니다. 다행히 기술 발전의 속도는 빠르게 진행되고 있습니다. 일부 연구에 따르면 2030년경에는 할루시네이션 비율이 현재 최고 성능 모델의 0.7%에서 0.03%까지 떨어질 것으로 예측된다고 밝히고 있습니다.

 

  결국 우리가 추구해야 할 것은 AI와의 건전한 파트너십입니다. 일방적 지시와 수동적 수용의 관계를 넘어서, 상호작용적 대화와 창의적 협업을 통해 함께 발전하는 관계로 나아가야 합니다. 인간의 통찰력과 비판적 사고를 바탕으로 AI의 확장된 사고와 새로운 관점을 결합한다면, 진정한 공동 창조의 시대를 열 수 있을 것입니다. AI의 할루시네이션을 단순히 문제로만 바라보기보다는, 창의적 문제 해결과 혁신적 아이디어 발굴의 도구로 활용하는 지혜가 필요한 시점이라고 생각합니다. 여기서 제일 중요한 것은 AI를 맹신하지도, 완전히 불신하지도 않는 균형감각입니다. 검증과 활용을 병행하며, 인간과 AI가 각자의 강점을 살려 협력하는 미래를 만들어가는 것이 바람직한 활용방법이라고 생각합니다.

 

  https://bit.ly/HappyGrowth

백근시대

지금은 백근시대