← 라이브러리로 돌아가기

Threads digest · @edutrend_

AI 행동·신뢰

AI도 ‘브레인 롯’을 겪을까요?

자극적이고 짧은 SNS 글을 계속 학습한 AI에게 무슨 일이 생길까요? 추론 점수 하락에서 ‘생각 건너뛰기’, 부분적 회복, 데이터 선별의 문제까지 따라갑니다.

색색의 화면 빛이 비치는 스마트폰과 흐릿한 알림 카드 · AI 생성 주제 이미지
글의 주제를 표현한 AI 생성 이미지 · 실제 연구 장면이 아닙니다.

짧고 자극적인 글을 계속 먹인다면

SNS를 오래 보면 뇌가 녹아내린다는 ‘브레인 롯(Brain Rot)’. 인간에게만 일어나는 일일까요?

스레드는 이 질문으로 시작합니다. 텍사스 A&M 대학교와 UT 오스틴 연구진의 연구를 통해, 자극적이고 짧은 정크 텍스트를 계속 학습한 언어모델의 추론과 응답이 어떻게 달라지는지 살펴봅니다.

어떤 글을 ‘정크 데이터’로 보았을까

연구진은 트위터(X) 데이터 100만 건을 바탕으로 정크 데이터와 비교용 데이터를 구성했습니다. 기준은 두 가지였습니다.

M1은 참여도 중심입니다. 좋아요와 리트윗은 많지만 길이가 매우 짧은 바이럴 텍스트를 봅니다. M2는 의미적 품질 중심입니다. 자극적인 문구, 낚시성 언어, 음모론처럼 표면적인 내용을 봅니다.

이 데이터를 Llama 3 8B와 Qwen 2.5 7B 등을 포함한 네 모델에 계속 추가 학습시킨 뒤 성능을 비교했습니다.

추론 점수와 긴 문맥 처리 성능이 내려갔다

스레드가 제시한 Llama 3 8B의 변화는 선명합니다. 정크 비율이 0%에서 100%가 됐을 때, 단계적으로 답을 생각하도록 한 과학 추론 평가(ARC-C with CoT)는 72.1점에서 57.2점으로 낮아졌습니다.

긴 문맥에서 필요한 내용을 찾는 평가(RULER-CWE)도 83.7점에서 52.3점으로 떨어졌습니다. 스레드는 이 변화를 ‘단계적 사고 능력의 마모’라는 표현으로 설명합니다.

틀린 답보다 눈에 띈 ‘생각 건너뛰기’

답이 왜 틀렸는지도 살펴봤습니다. 스레드에서 소개한 실패 분석에서는 84% 이상이 ‘생각 건너뛰기(Thought Skipping)’로 분류됐습니다.

계획을 세우지 않고 곧바로 결론을 내는 ‘No Thinking’이 74.8%였습니다. 계획을 세워 놓고도 중간 단계를 생략하는 경우도 있었습니다. 깊이 생각해야 할 문제에서 사고 과정이 짧아지는 모습에 주목한 것입니다.

응답 성향과 안전성에서도 나타난 변화

스레드는 성격과 안전성 평가 결과도 이어서 소개합니다. M1 정크 텍스트를 학습한 모델에서 사이코패스 성향, 나르시시즘, 마키아벨리즘을 측정하는 지표가 함께 높아졌다고 설명합니다.

유해한 요청에 대한 반응을 보는 AdvBench에서는 위험도가 68.0에서 88.8로 높아졌다는 수치를 제시합니다. 온라인 텍스트에 담긴 적대감과 자기과시가 모델의 응답 방식에 어떤 영향을 줄 수 있는지 묻는 대목입니다.

좋은 데이터로 다시 학습하면 돌아올까

“다시 좋은 데이터로 추가 학습시키면 낫지 않을까?”

연구진은 정크 데이터의 4.8배에 달하는 양질의 지시어 데이터로 추가 학습을 시도했습니다. 스레드는 그 결과를 ‘부분적 회복’으로 소개합니다. 답변 형식은 나아졌지만, 복합 추론 성능에는 원본 대비 17.3%의 격차가 남았다는 설명입니다.

글의 흐름은 여기서 회복보다 예방으로 향합니다. 어떤 데이터를 학습시키는지 처음부터 살피는 일이 중요하다는 것입니다.

많이 읽히는 글과 좋은 학습 데이터 사이

마지막으로 스레드는 어휘 다양성에 주목합니다. 정크 데이터와 양질의 데이터가 사용하는 어휘 수 자체는 거의 같았다는 점입니다.

그래서 데이터 선별의 기준을 문법이나 단어 수에만 둘 수 없다고 이야기합니다. 알고리즘이 부풀린 인기, 자극적인 표현, 파편화된 내용까지 함께 살펴야 한다는 것이 이 타래의 핵심 메시지입니다.

이 글에서 소개한 원문

LLMs Can Get "Brain Rot": A Pilot Study on Twitter/X

Shuo Xing, Junyuan Hong, Yifan Wang, Runjin Chen, Zhenyu Zhang, Ananth Grama, Zhengzhong Tu, Zhangyang Wang (2026)

COLM 2026 발표 논문 · arXiv v3 · arXiv:2510.13928v3

연구 원문 보기 ↗
원문 타래 이어 읽기Edutrend의 Threads에서

이 글 공유하기