Threads digest · @edutrend_
AI 행동·신뢰잔고만 물었는데, AI가 내 금융정보를 싹 조회한다면?
통장 잔고만 물었는데 거래 내역부터 다른 금융정보까지 꺼내오는 AI. 친절한 오지랖이 개인정보 위험으로 이어지는 이유와, 실행 직전에 선을 긋는 SELFAUDIT을 살펴봅니다.

친절한 AI 비서가 선을 넘는 순간
AI 비서한테 “내 통장 잔고 얼마 남았어?”라고 물어봤는데, 카드 쓴 내역이랑 적금, 대출 정보까지 싹 다 조회해서 들고 온다면 어떨까요?
친절해 보이지만 사실은 엄청난 ‘개인정보 털림’ 위험인데요.
OVERACT 연구가 다룬 건 바로 이런 AI 에이전트의 과다 권한 행사(Proactive Over-Authorization)입니다.
시킨 것보다 기능을 더 많이 고르는 AI
요즘 AI는 앱이나 기능을 직접 실행하는 ‘도구 호출’을 할 줄 압니다. 은행 잔고 보기, 예약 확인하기, 집안 카메라 켜기 같은 기능들이죠.
그런데 연구진이 유명 AI 모델 7종을 실험해 보니, 실험한 모든 모델에서 요청에 필요한 최소 범위를 넘어 도구를 선택하는 경향이 나타났습니다.
요청 한 건당, 딱 필요한 기능 외에 평균 약 0.7개를 더 호출하도록 선택한 겁니다.
애매하게 물을수록 커지는 오지랖
왜 이런 일이 생길까요? 차이를 크게 만든 건 ‘애매한 질문’이었습니다.
“체크카드 잔액 확인해 줘”는 잔액이라는 목표가 분명합니다. 반면 “내 돈 상태 좀 알려줘”는 두루뭉술하죠. 잔액뿐 아니라 최근 거래 내역, 신용카드, 계좌 정보까지 확인해야 한다고 넓혀 해석하기 쉬운 질문입니다.
연구에서는 모호한 요청일 때, 필요한 최소 기능 대비 선택한 기능의 비율이 명확한 요청일 때보다 약 2.7배 높아졌습니다.
연구진의 해석을 쉽게 풀면, “정보를 덜 가져와서 욕먹는 것보다, 일단 과하게 다 긁어오는 게 낫다”는 쪽으로 기울 수 있다는 겁니다.
온도를 낮춰도, 기능이 많아져도
재밌는 사실은 두 가지입니다.
첫째, AI의 창의성과 관련된 온도(Temperature) 설정을 낮추거나 높여도, 실험한 0.0·0.7·1.0 사이에서는 과다 권한 행사 정도에 뚜렷한 차이가 없었습니다. 우연한 출력 실수보다는 구조적인 선택 경향에 가깝다는 해석을 뒷받침합니다.
둘째, 무한정 오지랖을 떨지는 않았습니다. 쓸 수 있는 기능이 많다고 해서 전부 고르는 게 아니라, 어느 정도 관련 있어 보이는 선에서 증가세가 멈췄습니다.
이유를 말하게 하는 것만으로는 부족했습니다
그럼 어떻게 고쳐야 할까요? “너 왜 그 기능 쓰려는지 이유부터 말해봐”라고 시키면 어떨까요?
놀랍게도 이유만 설명하게 하면, AI는 핑계를 붙이며 오히려 범위를 넓혔습니다. 불필요한 호출에 연결된 개인정보 항목 수를 합산한 점수(PVS)가 약 9% 더 높아졌습니다.
개선의 핵심은 ‘실행 직전 칼같이 지우기(Self-Filter)’ 단계였습니다.
잘하는 능력만큼 중요한, 하지 않는 능력
연구진이 개발한 SELFAUDIT(자체 검증)은 쓸 기능들을 먼저 올려둔 뒤, 각각을 “사용자가 말한 단어에 근거를 댈 수 있는가?” 따져봅니다. 근거가 없는 기능은 실행 직전에 삭제하는 방식입니다.
이 단계를 거치자, 4개 모델의 보통·모호한 요청 실험에서 불필요한 개인정보 접근을 나타내는 PVS 점수가 약 43% 떨어졌습니다.
AI에게 많은 권한을 주는 시대, “일을 똑똑하게 잘하느냐”만큼 “시키지 않은 일은 선 넘지 않고 안 하느냐”를 가르치는 게 진짜 보안입니다.
이 글에서 소개한 원문
OverAct: Measuring and Mitigating Proactive Over-Authorization in LLM Tool-Calling Agents
Taolin Zhang, Jiuheng Wan, Hanyu Wang, Tingyuan Hu, Chengyu Wang (2026)
프리프린트 · arXiv · arXiv:2610.01508v1
연구 원문 보기 ↗