거짓말

앞서 우리는

LLM

이 사실을 검증하는 것이 아니라,

확률적으로

그럴싸한 말

을 만들어내는 기계라는 점을 확인했다.

그리고 이 특성은

AI가

우리 삶 깊숙이 들어온 지금

완벽하게

해결하기

어려운

치명적인 문제를
야기한다.

바로

HALLUCINATION

환각

이다.

그럴듯함 뒤에 숨은 거짓

2022년 11월, ChatGPT의 등장 이후 AI는 생각하고 진화하는 동반자로 자리 잡았다. 하지만 이 똑똑한 AI가 때로는 인간보다 더 뻔뻔하게 거짓말을 하곤 한다.

이를 전문 용어로 '환각'이라고 부르는데, 단순히 틀리는 것이 아니라 "실상은 잘못된 내용을 마치 진실인 것처럼 그럴듯하게 포장해서 말하는 것"을 의미한다.

이 문제의 심각성을 보여주는 유명한 사례가 있다.
널리 사용되는 최신 챗봇에게 연구자 Adam Tauman Kalai가 쓴 논문의 제목을 물어보았다.

챗봇은 주저하지 않고 자신 있게 세 가지의 서로 다른 논문 제목을 답변으로 내놓았다. 제목은 매우 학술적이고 전문적으로 보였다. 하지만 충격적이게도, 그중 맞는 것은 단 하나도 없었다. 심지어 해당 저자의 생일을 물어봤을 때도 챗봇은 또다시 세 가지 다른 날짜를 제시했지만, 모두 틀린 답변이었다.

이처럼 AI는 '모른다'고 침묵하기보다,
틀린 정보라도 '확신에 찬 어조'로 거짓말을 생성해낸다.

이것이 바로 우리가 AI의 답변을 맹신해서는
안 되는 이유이자, LLM이 가진 거짓말의 본질이다.