Threads digest · @edutrend_
AI 행동·신뢰에피스테미아, 유창한 답변이 판단을 대신할 때
답변이 유창하다는 이유만으로 충분히 알고 판단했다고 느끼는 순간이 있습니다. 에피스테미아라는 개념은 인간과 LLM이 결론에 이르는 일곱 갈래의 차이를 통해 이 착각을 돌아보게 합니다.

유창한 답변이 진실을 대신하는 순간
에피스테미아(Epistemia)는 검증과 숙고의 과정 없이 언어적 유창함이 진실을 대체해 버리는 현상을 가리킵니다. AI의 답변을 읽을 때 우리는 왜 이런 경험을 하게 될까요?
Quattrociocchi 등은 인간과 AI가 같은 방식으로 판단한다고 여기는 오해에 주목합니다. 이 개념적 논문은 겉으로 비슷한 답을 내더라도 결론을 도출하는 과정에는 일곱 가지 ‘인식론적 단층선(Epistemic Fault Lines)’이 있다고 설명합니다.
1. 접지 단층: 세계를 살아가는 경험
인간은 오감과 사회적 상호작용을 통해 세상에 발을 딛고 정보를 받아들입니다.
논문이 비교하는 텍스트 중심 LLM은 그 경험을 직접 살아가기보다 기호로 전달된 정보를 처리합니다. 저자들은 이미지나 음성을 입력받는 경우에도, 입력을 처리하는 일과 몸으로 세계에 참여하는 경험 사이에 차이가 있다고 봅니다.
2. 구문 분석 단층: 장면을 이해하는 것과 입력을 나누는 것
인간은 상황과 의도, 맥락을 함께 읽으며 장면을 입체적으로 이해합니다.
이에 대응시킨 LLM의 입력 처리 단계는 문장을 토큰으로 나누고 수치 계산이 가능한 형태로 바꾸는 과정입니다. 저자들이 짚는 차이는 이 토큰화 자체가 사람처럼 상황과 의도를 해석하는 과정은 아니라는 점입니다.
3. 경험 단층: 살아온 기억과 통계적 유사성
인간은 삶의 일화 기억과 직관적인 물리·심리 법칙을 토대로 대상을 이해합니다. 저자들은 이를 LLM이 임베딩 공간에서 단어와 표현의 통계적 유사성을 활용하는 방식과 구별합니다. 경험을 직접 살아낸 기억과 경험에 관한 말의 패턴은 다르다는 것입니다.
4. 동기 단층: 판단에 방향을 주는 것
인간의 인지는 감정과 생존 본능, 가치관과 목표를 통해 방향성을 갖습니다.
논문은 LLM의 예측을 위한 계산을 이러한 내적인 동기와 구별합니다. 외부에서 주어진 학습 목표에 맞춰 출력을 조정하는 것과, 스스로 소중히 여기는 가치나 삶의 목적을 가지고 판단하는 것은 다르다는 설명입니다.
5. 인과 단층: 원인과 결과를 따지는 판단
인간은 원인과 결과를 따지고, “만약 달랐다면?”이라는 반사실적 가정을 세워 추론합니다. 논문은 언어 안의 상관관계에 기대는 방식과 이런 인과적 판단 사이의 차이를 지적합니다. 표면적으로 그럴듯한 연결이 엉뚱한 결론으로 이어질 수 있다는 문제입니다.
6. 메타인지 단층: 모른다는 것을 알아차리기
사람은 불확실성을 감지하고 판단을 유보할 수 있습니다. 저자들이 대비하는 것은 이런 자기 점검과, 모르는 내용에 대해서도 자신 있게 답을 이어갈 수 있는 LLM의 생성 방식입니다.
유창하고 확신에 찬 문장이라고 해서 그만큼 근거를 알고 있다는 뜻은 아닙니다. 할루시네이션을 판단의 문제로 보아야 하는 이유입니다.
7. 가치 단층: 답변에 따르는 책임과 삶의 무게
인간의 판단에는 책임과 도덕, 삶의 무게가 따릅니다. 저자들은 이런 가치가 걸린 판단을, 자신이 내놓은 말의 결과를 사람처럼 책임지지 않는 확률적 출력과 구별합니다.
필요한 것은 인식론적 리터러시입니다
사고를 AI에게 외주화하는 문제를 돌아보려면 인공지능의 기능적 한계를 이해하는 ‘인식론적 리터러시’가 필요합니다.
매끄러운 답을 받는 일과, 근거를 따져 스스로 판단하는 일을 구별할 수 있어야 합니다. 유창한 답변이 생각하는 과정을 대신하지 않도록 하는 것입니다.
이 글에서 소개한 원문
Epistemological Fault Lines Between Human and Artificial Intelligence
Walter Quattrociocchi, Valerio Capraro, Matjaž Perc (2025)
arXiv 사전공개본 v1 · Perspective(개념적 논증) · arxiv:2512.19466
연구 원문 보기 ↗