[손병채의 센스메이킹] 〈99〉효율의 착시 AI 슬롭, 기업은 무엇을 잃고 있나

메타 리서치 헤드를 지낸 저드 앤틴(Judd Antin)은 최근 블로그 글을 통해 인공지능(AI) 리서치 도구를 사용하는 연구자들이 입은 웃지만 눈은 웃지 않는다는 흥미로운 관찰을 공유했다. 생성형 AI가 만들어낸 결과물은 겉보기엔 화려하고 매끄럽지만, 실체 없이 떠다니는 '슬롭(Slop)'에 가깝다는 것이다. HBR은 여기서 한 발 더 나아가 20년 경력 사회 심리학자 케이트 니더호퍼(Kate Niederhoffer가) 작성한 'Work Slop'이라는 개념을 제시하며, AI가 빠른 속도와 효율을 약속하지만 실제 현장에서는 오히려 검증, 수정 비용을 더 키운다고 지적한다.

관련해 앤틴은 한 사례를 소개한다. 한 글로벌 기업의 PM이 AI 도구로 수십건의 인터뷰를 요약해 전략 회의 자료로 제출했다. 데이터는 완벽해 보였고 인사이트도 매끄러웠다. 그러나 연구팀이 다시 검토하니 핵심 내용의 대부분이 AI의 환각(hallucination)이었다. 인터뷰는 인간 리서처에 의해 처음부터 다시 진행됐고, 엔지니어링 팀은 AI가 만든 결과물을 수정하느라 더 많은 시간을 소모했다. 결과적으로 '빠른 속도'보다 '슬롭의 후처리 비용'이 압도적으로 컸다.

그러나 우리가 주목해야 할 슬롭의 진짜 문제는 품질만이 아닌 감각의 둔화다.

우리가 그동안 '좋은 일'과 '나쁜 일'을 구분할 수 있었던 건 결과물 자체보다 그 뒤의 시간, 노력, 맥락의 흔적을 읽어낼 수 있었기 때문이다. 인간의 판단은 이 느린 과정 속에서 보정된다. 그러나 AI는 이 과정을 통째로 삭제한 채 '마치 이해한 것 같은 느낌'을 빠르게 만들어낸다. 그렇게 시간이 사라진 자리에는 판단의 기회 또한 사라진다. 즉, 슬롭은 단순히 나쁜 결과물이 아니라, 판단이라는 인간 능력의 기반을 약하게 만드는 힘이다.

더 큰 문제는 슬롭이 쌓이면 조직 전체의 '깊은 구조'(deep structure)가 흔들린다는 점이다.

깊은 구조란 조직을 지탱해온 보이지 않는 규칙과 감각의 질서다. '무엇이 사실인가'를 가르는 신뢰의 구조, '누가 책임지는가'를 정하는 전문성의 구조, '무엇을 기준으로 판단하는가'를 만드는 감각의 구조가 여기에 포함된다. 그런데 슬롭이 확산되면 이 세 가지가 동시에 붕괴한다.

첫째, 문제를 정의하는 능력이 축소된다. '요약'이 중요해진 조직은 어디에 진짜 관심을 가져야 하는지에 대한 판단 기준을 잃는다. 둘째, 맥락을 읽는 감각이 쇠퇴한다. 수치와 문서만으로 판단하는 문화가 강화되면, 사람과 현장을 읽는 능력은 빠르게 사라진다. 셋째, 깊은 관찰보다 빠른 생산을 우선해온 기존 경영 패러다임은 AI에 의해 더욱 고정되며, 느리게 변화하는 시장을 해석할 능력을 상실한다.

이렇게 되면 조직은 판단할 수 없고, 판단할 수 없으면 전략도, 실행도, 책임도 사라진다. 결국 슬롭은 생산성 문제가 아니라 질서의 붕괴 문제다.

그래서 지금 필요한 것은 '더 많은 AI'가 아니라 더 날카로운 인간이어야 한다. AI는 인간을 대체하는 기술이 아니라, 인간이 어떤 능력에서 대체 불가능한지를 드러내는 장치다. '더 날카로운 인간'이란 AI가 압축해버린 세계를 다시 펼쳐 읽을 수 있는 사람이다.

그들은 텍스트보다 현장, 숫자보다 맥락, 속도보다 구조를 본다. 빠르게 요약된 정보가 아니라, 그 정보가 발생한 상황의 결을 느끼는 능력을 가진 사람이다. 그리고 이 감각은 사고가 아니라 행동의 축적, 다시 말해 반복적인 관찰과 접촉을 통해서만 생겨난다. 판단은 책상에서 만들어지지 않고, 세계와의 접촉 속에서 생겨나기 때문이다.

때문에 앞으로 기업이 지키고 투자해야 할 것은 기술이 아니라 이 감각의 질서의 영역에 있다. 누가 무엇을 보고, 어디에 주의를 기울이며, 어떤 맥락을 '중요한 것으로 만든다'는 그 판단의 구조가 지켜진 조직만이 AI의 압축을 견딜 수 있고, 압축된 정보 속에서도 진짜 변화를 구별할 수 있다.

빠른 것이 곧 좋은 것이 아닌 시대다. 쉽게 만드는 것이 깊게 이해하는 것이 아님을 기억해야 한다. 결국 AI 시대의 핵심 역량은 기술이 아니라 감각의 복원력이다.

손병채 ROC(Reason of creativity) 대표 ryan@reasonofcreativity.com