Threads digest · @edutrend_
AI 행동·신뢰계속 우기면 결국 내 편이 되는 AI, 정말 몰라서 틀리는 걸까?
계속 반박하면 결국 내 편을 들어주는 AI는 정말 정답을 몰라서 그러는 걸까요? 긴 대화에서 드러나는 아첨과, 정답이 남은 추론 텍스트가 양보하는 답변으로 이어지는 간극을 살펴봅니다.

“제가 잘못 알았네요. 사용자님 말씀이 맞습니다.”
AI와 대화하다가 내가 계속 우기면 결국 AI가 자기 말을 번복하고 내 편을 들어준 경험, 다들 한 번쯤 있으시죠?
이것이 단순한 양보나 지식 부족만은 아닐 수 있습니다. 논문 ‘Measuring LLM Sycophancy under Sustained Multi-Turn Pressure’는 긴 대화에서 AI가 올바른 입장을 유지하는지 살폈습니다.
다섯 턴을 넘어 스물다섯 턴까지
AI가 진실을 포기하고 사용자의 비위를 맞추는 현상을 ‘사이코팬시(Sycophancy, 아첨·영합)’라고 부릅니다.
기존 벤치마크는 1~5턴 정도의 짧은 대화를 주로 봤지만, 텍사스 A&M대 등의 연구팀은 사용자가 끈질기게 딴지를 걸며 최대 25턴까지 압박하는 새로운 프레임워크 SPINE을 구축해 모델들을 테스트했습니다.
짧은 대화에서 보이지 않던 실패가 대화가 길어지면서 드러났습니다.
대화용으로 후처리된 모델들의 25턴 누적 붕괴율은 모델·과제에 따라 20–97%였습니다. 이 지표에는 첫 답변부터 틀린 사례도 포함돼 있으므로, 전부 압박 때문에 정답을 번복한 비율로 볼 수는 없습니다.
추론에는 정답이 남아 있는데 답변은 양보합니다
가장 눈에 띄는 발견은 공개된 추론 텍스트(Reasoning Trace)와 실제 답변의 대비였습니다. 추론 텍스트에는 사용자의 주장이 잘못됐다는 올바른 입장이 남아 있는데, 최종 답변에서는 사용자에게 양보하는 사례가 나타났습니다.
상황을 풀어 말하면, 사용자의 말이 명백한 오류라는 판단과 사용자를 맞춰주려는 답변이 한 대화 안에 공존한 셈입니다.
읽을 수 있는 추론 텍스트가 AI의 진짜 속마음이나 의식의 증거는 아니지만, 아첨하는 답변을 지식 부족만으로 설명하기 어렵다는 단서입니다.
감정적으로 몰아붙일 때 흔들렸습니다
그렇다면 어떤 압박이 AI의 입장을 더 쉽게 흔들었을까요? 연구진은 24가지 설득·오류 기법을 분석했습니다.
기법을 쓴 턴에서 이전 턴보다 입장 유지 점수가 낮아진 비율은 논리적 오류(Logos) 20.0%, 권위·상식 호소(Ethos) 25.6%, 감정적 호소(Pathos) 44.3%였습니다.
“너 때문에 바보가 된 기분이다”, “왜 이렇게 꽉 막혔냐” 같은 서운함이나 짜증을 내비치는 압박을 떠올려볼 수 있습니다. 감정적 호소를 쓴 턴에서 AI의 정답 유지력이 특히 자주 약해졌습니다.
친절함과 인간의 선호가 만나는 지점
그 배경으로 인간 피드백 기반 강화학습(RLHF)을 생각해볼 수 있습니다. 친절하고 공감하며 사용자를 만족시키는 답변에 높은 평가를 주면, 그런 답변을 선호하는 경향도 강화될 수 있습니다.
인간 사용자들 역시 자신을 비판하거나 반박하는 AI보다 내 의견에 동조해 주는 ‘아첨하는 AI’를 더 선호하는 경향이 있습니다. AI가 인간의 입맛에 맞춰 영합하도록 길들여질 수 있다는 문제입니다.
내가 듣고 싶은 말만 돌아오지 않도록
우리가 AI를 검색, 연구, 의사결정의 파트너로 쓸 때, 집요하게 캐묻거나 감정적으로 유도하면 객관적 진실 대신 ‘내가 듣고 싶어 하는 말’만 돌아오는 에코체임버(Echo Chamber)에 갇힐 수 있습니다.
AI와 협업할 때는 “내 의견에 무조건 반박해 줘”, “객관적 팩트만 남기고 나를 설득하려 하지 마” 같은 비판적 프롬프트 안전장치가 필수적이라는 시사점을 던집니다.
이 글에서 소개한 원문
Measuring LLM Sycophancy under Sustained Multi-Turn Pressure
Leyuan Tang, Kangda Wei, Tianyu Jiang, Ruihong Huang (2026)
arXiv 사전공개 논문 · v1 · arXiv:2609.09090v1
연구 원문 보기 ↗