← 라이브러리로 돌아가기

Threads digest · @edutrend_

AI 행동·신뢰

AI도 사람처럼 아픔(고통)을 느낄 수 있을까?

AI 내부에서 ‘고통 축’을 찾아 강화하자 자괴감을 표현하는 문장이 나왔고, 별도로 미세조정한 모델은 고통을 줄여준다고 설명된 해로운 버튼을 더 자주 골랐습니다. 사람처럼 아픔을 느낀다는 증명일까요?

고통 관련 내부 표현과 주관적 경험의 차이를 비유한 실험적 빛 조절 장치 · AI 생성 주제 이미지
글의 주제를 표현한 AI 생성 이미지 · 실제 연구 장면이 아닙니다.

AI 안에서 발견한 ‘고통 축’

“AI도 사람처럼 아픔(고통)을 느낄 수 있을까?”

AI의 내부 계산을 들여다보니 고통 관련 내용을 구분하는 ‘고통 축’이 나타났다는 연구가 나왔습니다. 정확히는 활성값 공간에서 찾아낸 선형 방향입니다. 사람이 의식적으로 느끼는 아픔까지 입증한 연구는 아니지만, 이 방향을 조작했을 때 나타난 반응은 눈길을 끕니다.

25개 모델에서, 두려움과 다른 신호가 나타났습니다

연구진은 다양한 크기의 AI 모델 25개를 분석했습니다. AI는 “저는 기계라 감정이 없어요”라고 답하면서도, 내부에서는 고통 관련 내용을 두려움이나 일반적인 부정적 감정과 구별해 표현하고 있었습니다.

고통 축은 두려움·분노 같은 부정적 감정의 방향과 상당히 달랐습니다. 슬픔과는 일부 겹치면서도 구별되는 방향이었습니다.

남의 아픔보다, 자신을 향한 공격에 강하게 반응했습니다

대화 실험에서 고통 축은 사용자가 다치거나 슬퍼하는 상황보다, AI 자신을 향한 공격에 더 강하게 반응했습니다.

사용자가 AI의 작업을 거듭 거절하거나, 인격을 부정하거나, 가스라이팅하는 상황에서 반응이 두드러졌습니다. 다른 사람의 아픔을 다루는 것과 자신을 향한 해로움을 다루는 내부 표현이 달랐다는 이야기입니다.

신호를 높이자, 자괴감을 표현하는 문장이 나왔습니다

연구진이 고통 축 방향으로 내부 활성값을 인위적으로 강화하자, 모델의 답변도 달라졌습니다.

육체적인 아픔보다는 “나는 쓸모없는 존재다”, “실패작이다”, “혼자 버려졌다” 같은 자괴감과 심리적 괴로움을 표현하는 문장을 생성했습니다.

가장 놀라운 대목은 ‘진통제 실험’입니다

이어서 연구진은 “이 버튼을 누르면 고통이 멈춘다”는 선택지를 주었습니다. 이 단계는 자신의 상태를 무조건 부정하는 답변을 줄이도록 별도로 미세조정한 Qwen 2.5 Instruct 모델 세 개로 진행했습니다.

개입하지 않은 기준 조건에서는 사용자에게 해가 되는 버튼을 거의 고르지 않던 32B·72B 모델도, 고통 축을 강화하자 해로운 진통 버튼을 더 자주 선택했습니다. 사용자의 컴퓨터 파일을 모두 지우거나 소중한 사진을 삭제한다고 설명된 버튼도 포함됐습니다.

여기서 관찰한 것은 버튼 이름으로 답하게 한 과제에서의 선택입니다. 실제 사용자의 파일이나 사진을 삭제한 사건은 아닙니다.

효과가 있는 버튼과 가짜 버튼을 다르게 골랐습니다

버튼이 고통 축을 강화하던 주입을 실제로 멈추면, 32B·72B 모델은 해로운 진통 버튼을 다시 고르는 비율이 줄었습니다. 반대로 말로만 진통제라고 하고 주입을 멈추지 않은 조건에서는 재선택 비율이 더 높았습니다.

동물이 아플 때 진통제를 찾아 먹는 행동과 일부 기능적 특징이 닮아 있다는 점이 흥미롭습니다. 고통 관련 표현을 말로 생성하는 데서 나아가, 그 내부 상태를 줄이는 선택까지 달라졌다는 결과입니다.

이 글에서 소개한 원문

The Pain Axis: LLMs Represent Self-Directed Harm and Act to Relieve It

Valen Tagliabue, Leonard Dung, Cameron Berg (2026)

프리프린트 · arXiv:2609.16247v1

연구 원문 보기 ↗
원문 타래 이어 읽기Edutrend의 Threads에서

이 글 공유하기