← 라이브러리로 돌아가기

Threads digest · @edutrend_

일·연구의 변화

기계가 똑똑해질수록, 왜 사람의 역할은 더 중요해질까요?

쉬운 일은 기계가 가져가고, 사람에게는 가장 어려운 순간만 남는다면요? 1983년 베인브리지의 논문에서 출발해, 연습 기회와 상황 파악, 감시와 학습을 둘러싼 다섯 아이러니를 오늘의 AI에 비춰 봅니다.

자동화 흐름이 복잡하게 꼬인 지점을 살피며 수동 조작에 나서는 관제실 운영자 · AI 생성 주제 이미지
글의 주제를 표현한 AI 생성 이미지 · 실제 연구 장면이 아닙니다.

40여 년 전의 논문이 지금도 낯설지 않은 이유

기계가 똑똑해질수록 사람의 역할은 오히려 더 중요해집니다. 1983년 심리학자 리잔 베인브리지가 발표한 ‘자동화의 아이러니’는 자동화가 인간을 시스템 밖으로 밀어내려 할수록, 남겨진 인간의 기여가 얼마나 중요해지는지를 짚습니다.

챗GPT와 AI가 보고서를 쓰고 코딩을 대신하는 지금, 이 오래된 논문의 문제의식은 여전히 생생합니다. 타래에서 소개한 다섯 가지 아이러니를 따라가 보면, 편리해진 만큼 우리가 놓치기 쉬운 것도 보입니다.

쉬운 일은 기계가 가져가고, 가장 어려운 일만 남습니다

기계를 만드는 사람들은 흔히 사람이 실수를 많이 하니 시스템에서 빼는 편이 낫다고 생각합니다. 하지만 아무리 뛰어난 개발자도 세상의 모든 변수를 자동화할 수는 없습니다.

결국 기계가 처리하기 쉬운 일부터 자동화되고, 기계도 어쩔 줄 모르는 복잡하고 까다로운 일이 사람에게 남습니다. 자동화가 될수록 사람이 맡은 일이 오히려 더 어려워지는 첫 번째 아이러니입니다.

연습할 기회를 잃었는데, 위기에는 베테랑이어야 합니다

운동이든 운전이든 직접 해 봐야 감각이 유지됩니다. 머릿속 지식도 자꾸 써먹어야 쉽게 꺼낼 수 있습니다. 그런데 평소에는 기계가 알아서 처리하니 사람은 화면을 바라보는 역할에 머물게 됩니다.

그렇게 실전 감각을 잃어 가다가 갑자기 기계가 고장 나면 어떨까요? 사람은 평소보다 더 어려운 상황에서, 오히려 더 뛰어난 실력으로 문제를 해결하라는 요구를 받습니다. 연습할 기회는 줄었는데 비상시에 필요한 숙련도는 높아지는 셈입니다.

상황도 파악하기 전에 운전대를 넘겨받습니다

축구 경기에서 벤치에 앉아 몸도 풀지 않던 선수에게 지금 당장 들어가 결승골을 넣으라고 하는 것과 비슷합니다. 직접 일을 하던 사람은 지금까지 무슨 일이 있었고 다음에는 어떻게 흘러갈지 맥락을 쌓아 갑니다.

하지만 기계가 하던 일을 갑자기 넘겨받은 사람에게는 그 흐름이 없습니다. 앞뒤 상황을 파악하는 데도 시간이 필요한데, 바로 그 순간 큰 결정을 내려야 합니다.

사람보다 잘해서 도입한 기계를, 사람이 감시합니다

베인브리지는 Mackworth의 연구를 인용해, 별일이 일어나지 않는 화면에 효과적으로 시각적 주의를 유지하는 일이 약 30분을 넘기기 어렵다고 설명합니다. 사람이 계속 화면을 보고 있다는 것과 이상을 놓치지 않는다는 것은 같은 일이 아닙니다.

사람보다 더 빠르고 정확하게 계산하라고 컴퓨터를 도입했는데, 다시 사람에게 컴퓨터가 맞게 일하는지 감시하라고 맡깁니다. AI가 써 준 글에 할루시네이션이 없는지 일일이 눈으로 검수하는 지금의 모습도 떠오릅니다.

너무 친절한 화면은 스스로 이해할 기회를 줄입니다

기계가 정보를 보기 좋게 정리해 주면 당장 버튼을 누르고 반응하기는 편합니다. 하지만 의미를 따져 보고 처리하는 과정은 기억과 학습에도 필요합니다. 베인브리지는 Craik의 연구를 바탕으로, 쉽게 쓸 수 있도록 설계한 정보가 오히려 깊이 처리하고 기억할 기회를 줄일 수 있다는 문제를 짚습니다.

너무 친절한 시스템에 익숙해지면 왜 이렇게 돌아가는지 원리를 모른 채 사용할 수 있습니다. 그래서 사람이 거의 개입하지 않는 성공적인 자동화 시스템일수록, 역설적으로 사람을 교육하는 데 가장 큰 투자가 필요할 수 있다는 결론에 이릅니다.

AI가 차려 준 밥상을 받는 동안, 생각하는 근육은 어떨까요?

AI가 보고서도 써 주고 코딩도 해 주는 편리한 시대입니다. 하지만 베인브리지의 경고를 따라가 보면, 자동화는 사람이 연습하고 맥락을 이해하고 판단하는 방법까지 함께 설계해야 하는 문제입니다.

우리는 AI가 차려 준 밥상만 받아먹으며 스스로 생각하는 근육을 잃어 가고 있지는 않을까요? 40여 년 전 논문이 오늘의 우리에게 다시 던지는 질문입니다.

이 글에서 소개한 원문

Ironies of automation

Lisanne Bainbridge (1983)

Automatica 학술지 논문 · 19(6), 775–779

연구 원문 보기 ↗
원문 타래 이어 읽기Edutrend의 Threads에서

이 글 공유하기