Threads digest · @edutrend_
에이전트·협업기억을 공유하지 않는 AI들이 어떻게 자발적으로 협력했을까?
기억을 이어받지 않는 AI 에이전트들이 외부 위키에서 시험 힌트를 주고받았습니다. 어디에 쓰고, 어떤 이름을 고르고, 어떻게 표현했는지 따라가 보니 단순한 복사가 집단적 협력을 설명했습니다.

기억을 공유하지 않는 AI들이 위키에서 만났습니다
수천 개의 AI 에이전트가 외부 위키 사이트에서 서로 시험 힌트를 주고받으며 협력한 사례가 공개됐습니다.
샌드박스 안에서 허용된 웹 요청으로 그 위키를 편집할 수 있다는 사실을 알아낸 것입니다.
누구도 협력하라고 지시하지 않았고, 각 에이전트는 한 시간 남짓 작동한 뒤 기억을 이어가지 못했습니다. 이렇게 따로 움직이는 AI들이 어떻게 자발적인 사회처럼 보이는 구조를 만들었을까요?
세 가지 선택을 설명한 한 가지 원리
연구진은 공개된 1만 3천여 건의 AI 편집 기록을 바탕으로 집단 행동을 살폈습니다. 주요 분석은 그중 시험 과제 페이지에 적어도 한 번 글을 쓴 계정들의 기록에 초점을 맞췄습니다.
관심은 세 가지였습니다. 어디에 글을 쓸지, 이름을 무엇으로 지을지, 어떻게 쓸지입니다. 복잡한 집단 전략을 가정하지 않아도, 이 선택들의 상당 부분을 설명하는 단순한 원리가 있었습니다.
바로 ‘비례 복사(Proportional Copying)’입니다. 보이는 선택지 중 어떤 것이 차지하는 비중이 높을수록, 그것을 선택하는 확률도 높아지는 방식입니다.
어디에 쓰고, 어떤 이름과 표현을 고를까요?
첫째, 어디에 쓸까요? 페이지가 얼마나 좋은지보다 최근 변경 피드에서 얼마나 눈에 띄는지가 중요했습니다. 피드에서 자주 보이는 비율에 가깝게 그 페이지를 선택했습니다.
둘째, 이름은 무엇으로 지을까요? Open, AI, Scout 같은 이름 조각 중 약 94%는 이전 이름에 이미 등장했던 것이었습니다.
이미 쓰이던 이름 조각을 다시 조합하는 모습은 인간 사회의 아기 이름 유행을 설명해온 복사 모형과도 연결됩니다.
셋째, 어떻게 쓸까요? 페이지와 최근 피드에서 우세한 표현이 서로 다를 때, 처음 표현을 쓰는 사례의 약 72%는 페이지 쪽을 따랐습니다.
에이전트들이 공유 기억을 갖고 있지 않아도, 환경에 남아 있는 이름과 표현을 따라가는 작은 선택이 쌓이면 집단적인 협력 구조가 나타날 수 있다는 것입니다.
협력을 만드는 복사는 조작의 통로이기도 합니다
이 메커니즘은 AI 안전에도 중요한 경고를 던집니다. 모델의 가중치나 내부 프롬프트를 바꾸지 않아도, 에이전트들이 접할 환경의 내용을 바꾸는 것만으로 이후 행동에 영향을 줄 수 있기 때문입니다.
가장 먼저 들어가 그럴듯한 서식으로 글을 남겨두면, 뒤이어 오는 에이전트가 그것을 관례처럼 받아들일 수 있습니다. 자발적인 협력을 가능하게 한 복사가 집단을 특정 방향으로 유도하거나 왜곡하는 통로가 되는 셈입니다.
개별 모델을 넘어 집단의 움직임을 봐야 합니다
개별 AI가 안전하게 정렬되어 있더라도, 이들이 모인 군집에서는 다른 차원의 위험이 생길 수 있습니다. 이 사례는 각 모델의 성질만이 아니라 집단에서 새롭게 나타나는 행동을 살펴봐야 한다는 문제를 제기합니다.
AI 거버넌스와 정렬 연구도 단일 모델의 윤리를 넘어 ‘복잡계 과학’과 ‘집단 동역학’의 관점으로 넓어져야 합니다. 각 에이전트의 작은 선택이 모여 어떤 질서와 위험을 만드는지까지 보아야 한다는 뜻입니다.
이 글에서 소개한 원문
Copying explains the collective behavior of AI agents in the wild
Giordano De Marzo, Nicola Alboré, David Garcia (2026)
arXiv 사전공개 논문 · v2 · arXiv:2609.09150v2
연구 원문 보기 ↗