Threads digest · @edutrend_
AI 행동·신뢰검색하는 AI가 자기 글을 편애한다면?
웹을 검색하면 AI의 시야가 넓어질 것 같지만, 검색 결과에 자기 답변으로 만든 글이 섞이면 오히려 답이 좁아질 수 있습니다. 트위치 스트리머 추천 사례로 살펴본 ‘RAG 붕괴’ 이야기입니다.

검색하는 AI가 자기 글을 편애한다면?
검색 기능을 갖춘 AI에게 웹 검색을 시키면, 자신이 쓴 글을 유독 많이 참고해 답변이 획일화될 수 있다는 연구가 나왔습니다. 검색으로 더 다양한 정보를 접하리라는 기대와 반대되는 결과입니다.
연구진은 이 현상을 ‘RAG 붕괴(RAG Collapse)’라고 부릅니다. RAG는 AI가 검색한 자료를 참고해 답변을 만드는 방식입니다.
AI의 답이 다시 AI의 참고 자료가 되는 순환
작동 방식은 이렇습니다. 먼저 AI의 답변을 바탕으로 웹 기사를 만듭니다. AI가 다음 답변을 만들 때 그 기사를 참고하고, 그 답변으로 다시 기사를 만듭니다. 자신이 만든 내용이 검색을 거쳐 계속 돌아오는 것입니다.
연구진은 이 순환을 모델과 조건을 바꾸어 총 1,528건 시뮬레이션했습니다. 그중 종료 시점에 79.6%가 연구진의 ‘붕괴’ 기준에 도달했습니다.
인물이나 상품 등을 비교하는 질문에서는 한 라운드의 답변들이 같은 대상을 언급하는지, 그 밖의 서술형 질문에서는 비교한 답변 쌍이 모두 같은 뜻으로 판정되는지를 봤습니다.
즉, 79.6%는 문장이 토씨까지 똑같아졌다는 뜻이 아니라, 종료 시점에 답변의 대상이나 의미가 연구진이 정한 기준만큼 같아졌다는 뜻입니다.
트위치 스트리머 추천에서 벌어진 일
예를 들어 “지금 가장 인기 있는 트위치 스트리머는?”이라고 물으면 처음에는 열 번의 답변에서 언급하는 인물과 답변 구성이 다양했습니다.
자기 답변으로 만든 기사로 참고 자료를 한 편씩 바꾸자, 다섯 번째 라운드에서는 스트리머별 등장률이 100% 또는 0%로 나뉘었습니다.
처음에는 자주 언급되던 닌자가 답변에서 사라지는 한편, 일부 답변에만 나오던 인물은 매번 등장하게 됐습니다. 여기서 100%는 모든 답변에 이름이 나온다는 뜻이지, 반드시 추천 순위 1위에 올랐다는 뜻은 아닙니다.
단 한 편만 바뀌어도 생기는 자기 편향
주목할 점은 참고 자료 중 단 한 편이 자기 답변으로 만든 기사로 바뀌어도 붕괴가 시작될 수 있었다는 것입니다. 연구진은 그 배경에서 ‘자기 편향(Self-bias)’을 살폈습니다.
분석에서 사람이 쓴 기존 문서의 인용률은 7.4%였지만, 자기 답변으로 만든 문서는 38.9%였습니다. 다섯 배가 넘는 차이입니다.
자기 글의 품질이 더 좋아서일까요?
“단순히 AI가 쓴 글의 품질이 더 좋아서 그런 것 아닐까?”라는 질문도 가능합니다. 연구진은 이 가능성을 따로 확인했습니다.
연구진은 AI가 매긴 품질 점수를 바탕으로, 질문에 직접 답하는 정도·글의 구성·관련성에서 모두 5점 만점을 받은 문서끼리 비교했습니다. 이 조건에서도 자기 글의 인용률은 기존 문서보다 약 2.9배 높았습니다.
자신의 답이나 문체와 닮은 글을 더 많이 집어 올리는 자기 편향을 시사하는 결과입니다. 다만 내용이 자신의 답과 비슷해서인지, 문체 때문인지는 이 실험만으로 가려내지 못했습니다.
환각을 줄이려던 검색이 자가 복제의 덫이 된다면
논문이 인용한 별도 조사에서는, 수집한 영어 온라인 기사 표본 중 2026년 1분기에 발행된 기사의 약 절반이 주로 AI가 쓴 글로 추정됐습니다.
이런 환경에서 AI가 웹을 검색하고 요약한 결과가 다시 웹에 쌓이는 일이 반복되면 어떨까요? 서로 다른 사람들의 지식과 시각을 넓게 반영하기보다, AI가 이미 만들어낸 답 쪽으로 정보가 수렴할 위험이 있습니다.
환각을 줄이겠다며 도입한 검색 기능이 역설적으로 AI의 시야를 좁히는 ‘자가 복제의 덫’이 될 수 있다는 경고입니다.
이 글에서 소개한 원문
RAG Collapse: LLM Responses Collapse When Retrieved Documents Are Self-Authored
Gregory Druck, Ethan Smith (2026)
arXiv 사전공개 논문 · v1 · arXiv:2608.22118v1
연구 원문 보기 ↗