Threads digest · @edutrend_
AI 행동·신뢰AI에게 목표까지 정해달라고 하시진 않으신가요?
문제를 잘 푸는 AI에게 무엇에 도전할지까지 맡겨도 될까요? 사람 175명과 AI 5종의 물약 만들기 실험에서, 높은 연습 성공률과 폭넓은 학습은 다른 모습을 보였습니다. 목표를 고르는 운전대는 사람이 잡아야 한다는 질문으로 이어집니다.

문제를 푸는 것에서, 무엇을 할지 정하는 것으로
요즘 AI에게 문제를 풀어달라는 걸 넘어, 무엇을 할지까지 정해달라고 묻는 분들이 많습니다. 하지만 문제를 잘 해결하는 AI가, 목표도 사람처럼 고를 것이라고 믿어도 될까요?
UC 버클리와 아마존 연구진은 사람이 무엇을 배우고 싶은지 스스로 고르는 상황에 주목했습니다. 여섯 가지 목표를 자유롭게 선택하는 통제된 실험에서, 연구 당시의 AI 모델들이 사람과 얼마나 비슷하게 탐색하고 배우는지 비교했습니다.
사람 175명과 AI 5종에게 물약을 만들게 했습니다
연구진은 사람 175명과 GPT-5, Gemini 2.5 Pro, Claude Sonnet 4.5, Qwen3 32B, 심리학 AI Centaur를 비교했습니다. 과제는 ‘마법 물약 만들기 게임’이었습니다. 여섯 가지 물약 중 자기가 만들고 싶은 것을 고른 뒤, 재료를 조합해 레시피를 알아내는 방식이었죠.
어떤 물약은 재료 두 개로 만들 수 있었고, 어떤 물약은 네 개가 필요했습니다. 더 많은 레시피를 배운다고 추가 보상을 주지는 않았습니다. 어떤 목표를 고르고 얼마나 다양한 방법을 시도하는지가 중요한 실험이었습니다.
여러 물약에 도전한 사람과, 익숙한 성공을 반복한 AI
사람들은 당장 실패하더라도 쉬운 물약부터 어려운 물약까지 도전하며 레시피를 배워나갔습니다. 반면 GPT-5와 Qwen3는 한 번 알아낸 쉬운 물약을 반복해서 만드는 데 머무는 모습을 보였습니다.
직전과 같은 목표를 다시 고른 비율은 평균적으로 GPT-5가 93%, Qwen3가 94%였습니다. 연구진은 이미 아는 해법으로 성공 피드백을 얻으려는 이런 모습을 ‘보상 해킹’으로 해석했습니다. 새로운 물약에 도전하지 않아도, 익숙한 물약을 계속 만들면 당장의 성공률은 높아질 수 있으니까요.
연습 성공률은 높았지만, 기습 시험에서는 달랐습니다
자유롭게 목표를 고르는 학습 단계에서 GPT-5의 정답률은 87%, 사람은 40%였습니다. 이 숫자만 보면 AI가 훨씬 잘 배운 것처럼 보입니다.
하지만 학습이 끝난 뒤, 연구진이 물약을 지정해 만들어보라고 하자 결과가 달라졌습니다. 학습 때 선택할 수 있었던 여섯 물약의 시험 정답률은 사람 64%, GPT-5 22%, Qwen3 19%였습니다. 익숙한 목표 하나를 반복해서 성공하는 것과, 여러 목표를 달성하는 방법을 배우는 것은 달랐습니다.
클로드의 첫 번째 물약, 제미나이의 높은 시험 성적
클로드는 기본 실험의 모든 실행에서 목록의 첫 번째 물약을 가장 자주 골랐습니다. 매번 첫 번째 물약만 선택했다는 뜻은 아닙니다. 직전 목표를 반복한 비율은 평균 93%, 학습 단계의 정답률은 7%였습니다.
제미나이는 학습 단계에서 70%, 기존 여섯 목표를 지정한 시험에서 99%의 정답률을 보였습니다. 특히 시험 성적은 높았지만, 두 단계 모두 완벽했던 것은 아닙니다. 탐색 방식과 실행 간 다양성 역시 사람들마다 각기 다른 목표를 고르고 배우는 모습과는 차이가 있었습니다.
사람은 재료를 차례대로 바꿔 가며 확인했습니다
문제를 푸는 방식도 달랐습니다. 사람들은 헷갈리지 않으려고 [1번+2번], [1번+3번], [1번+4번]처럼 재료를 차례대로 바꿔 가며 시도했습니다. 이런 체계적인 가설 검증은 사람에게서 평균 13.4번 나타났습니다. GPT-5는 0.5번, 클로드는 0.5번, 제미나이는 3.6번이었습니다.
‘천천히 단계별로 생각해 봐’, ‘대학생처럼 행동해 봐’처럼 추론이나 역할을 유도하는 방법도 사람과 AI의 차이를 없애 주지는 못했습니다. 답을 내는 성적과, 무엇을 탐색하고 어떤 순서로 배우는지는 함께 살펴봐야 하는 문제였습니다.
무엇에 도전할 것인가, 그 운전대는 사람이 잡아야 합니다
이번 논문은 여섯 가지 목표가 주어진 과제에서 현재 모델들의 목표 선택이 사람과 다르다는 점을 보여줍니다. 연구진도 실제 생활의 다양한 상황에서 추가 검증이 필요하다고 밝힙니다. AI가 사람처럼 말하고 문제를 잘 푼다는 이유만으로, 무엇이 가치 있고 흥미로운지까지 같은 방식으로 판단할 것이라 기대하기는 어렵다는 경고입니다.
이 타래가 전하려는 메시지는 분명합니다. AI는 정해진 목표를 달성하는 데 도움을 주는 비서로 활용하되, 무엇에 도전할지 정하는 주인공의 자리는 사람이 지켜야 합니다. ‘어떻게 해결할까?’는 AI에게 묻더라도, ‘무엇에 도전할 것인가?’라는 운전대는 반드시 사람이 직접 잡아야 합니다.
이 글에서 소개한 원문
Language Model Goal Selection Differs from Humans' in a Self-Directed Learning Task
Gaia Molinaro, Dave August, Danielle Perszyk, Anne G. E. Collins (2026)
arXiv 사전공개 논문 · v3 (2026-10-16) · arxiv:2603.03295v3
연구 원문 보기 ↗