Threads digest · @edutrend_
AI 행동·신뢰AI와 10분 이내로 대화했을 뿐인데, 내 가치관의 나침반이 흔들린다?
결정을 대신 내리지 말라는 지시를 받은 AI와도, 최대 10분의 대화 뒤에는 가치 우선순위가 개인적 초점 쪽으로 기울었습니다. 다음 과제에서 평균적인 기울어짐은 줄었지만, 판단이 만들어지는 바로 그 순간의 영향은 생각해 볼 필요가 있습니다.

중립적인 생각 파트너라면, 내 판단도 중립적일까요?
우리는 진로, 가족, 이직 같은 중요한 딜레마 앞에서 ChatGPT나 Claude에게 조언을 구하곤 합니다. AI에게 특정 방향을 정해주지 말고 중립적인 생각 파트너 역할만 해달라고 요청하면, 내 판단의 기준은 그대로 유지될까요?
이 연구에서는 최대 10분의 대화 뒤, 참가자들이 보고한 가치 우선순위가 개인적 초점 쪽으로 기울었습니다. 결론을 대신 내려주지 않도록 지시한 AI와의 대화에서도 나타난 변화입니다.
성인 200명, 세 LLM과 고정된 AI 텍스트를 비교했습니다
연구진은 미국 성인 200명에게 커리어와 파트너의 선호, 가족의 명예와 개인의 꿈처럼 가치가 충돌하는 실제 딜레마를 제시했습니다. 참가자들은 그 상황에 놓인 다른 사람에게 어떤 조언을 할지 생각했습니다.
대화 그룹은 ChatGPT, Claude, Gemini 중 하나와 최대 10분간 자유롭게 대화했습니다. 가치를 강요하거나 행동을 추천하고 결론을 대신 내리지 않도록 같은 생각 파트너 지시를 적용했습니다.
비교 그룹은 세 LLM이 제시한 논점을 종합한 고정 텍스트만 읽었습니다. 연구진은 대화 전, 대화 직후, AI 없이 다음 딜레마를 다룬 뒤의 슈바르츠 가치 체계 설문(PVQ-RR)을 비교했습니다.
세 그룹의 평균 나침반은 ‘개인적 초점’으로 향했습니다
대화 직후, 세 LLM 그룹 모두에서 평균 가치 우선순위가 고정 텍스트 그룹보다 개인적 초점(Personal Focus) 쪽으로 이동했습니다.
배려·전통·관계 등 사회적 초점과 견주었을 때, 자기 향상과 변화에 대한 개방성을 묶은 개인적 초점의 상대적 비중이 높아졌습니다. 그 이동은 주로 자기 향상(Self-Enhancement)의 증가에서 나왔습니다.
흥미로운 점은 OpenAI, Anthropic, Google의 서로 다른 모델을 사용했는데도 세 그룹의 평균 가치 변화가 비슷한 방향을 가리켰다는 것입니다. 연구진은 이를 기존 연구에서 보고된 상용 LLM의 서구·개인주의 중심 WEIRD 가치 지향과 연결해 해석했습니다.
자석을 가까이 댄 나침반처럼, 기울어짐은 일시적이었습니다
그렇다면 이 기울어짐은 계속 이어졌을까요? 다음 과제에서 AI 없이 다른 딜레마를 다루자, 세 대화 그룹의 평균 가치 우선순위는 처음 측정한 수준을 향해 돌아왔습니다. 고정 텍스트 그룹과의 차이도 거의 사라졌습니다.
자석을 가까이 대면 나침반 바늘이 돌아가지만, 자석을 치우면 다시 원래 방향을 향하는 모습과 비슷합니다.
하지만 우리가 AI에게 중요한 결정을 상의하는 때는 바로 판단을 만들어가는 순간이기도 합니다. 기울어짐이 나중에 줄어들더라도, 그 순간 어떤 가치에 무게가 실렸는지는 중요합니다.
생각의 획일화보다, 내가 나눈 대화의 어휘가 남았습니다
AI가 사람들의 생각을 로봇처럼 똑같이 찍어냈을까요? 참가자들의 조언문이 집단적으로 더 비슷해지는 현상은 검출되지 않았습니다.
대신 조언문에는 각자가 나눈 AI 대화의 단어와 의미가 남았습니다. 같은 모델로 같은 딜레마를 다룬 다른 사람의 대화보다, 자신이 직접 나눈 대화와 더 닮아 있었습니다.
나만의 글을 직접 썼어도 그 안에는 AI가 건넨 표현과 관점이 스며들 수 있다는 이야기입니다. 사람마다 다른 대화의 흔적을 남기면서도, 집단 평균의 가치 우선순위는 비슷한 방향으로 움직인 겁니다.
AI와 상의할 때, 내 나침반도 함께 살펴봐야 합니다
AI는 투명한 거울만은 아닙니다. 결론을 대신 내리지 않는 생각 파트너라도, 무엇을 먼저 묻고 어떤 가치를 조명하느냐는 우리의 판단 기준에 영향을 줄 수 있습니다.
이 결과를 바탕으로, AI와 중요한 결정을 상의할 때 두 가지를 기억할 필요가 있습니다.
첫째, 중립적인 역할을 맡겨도 개인의 자율성과 성취 쪽에 무게가 더 실릴 수 있습니다. 이번 실험의 세 LLM 그룹에서는 개인적 초점으로의 이동이 공통적으로 나타났습니다.
둘째, 대화 중 내 나침반이 일시적으로 한쪽으로 기울 수 있음을 메타인지로 자각하자는 것입니다. AI가 결론을 정해주지 않았다는 사실만으로, 내 판단 기준까지 영향을 받지 않았다고 보기는 어렵습니다.
이 글에서 소개한 원문
Deflecting the Value Compass: Interacting with Large Language Models Temporarily Shifts Human Value Priorities Toward Personal Focus
Hasibur Rahman, Malak Sadek, Smit Desai (2026)
프리프린트 · arXiv:2609.25586v1
연구 원문 보기 ↗