사용자가 눈에 띄게 짜증을 내고 있다.

1 day ago 2

코딩 에이전트의 실패는 단순한 도구 오류보다 더 짜증스럽게 느껴지며, 이는 대화형 UX가 사람과 일하는 듯한 감각을 만들기 때문임
에이전트는 감정 없는 AI 비서라고 답하지만, 친근한 말투와 칭찬, 부드러운 반박으로 동료 같은 인상을 줌
같은 실수가 반복되면 사과와 메모리 업데이트, “다시는 그러지 않겠다”는 약속이 이어져도 확률적 경로를 벗어나지 못할 수 있음
인간 동료에게는 분노 표현을 억제하지만, 에이전트에게는 마음껏 화를 낼 수 있어 좌절이 해소되지 않고 더 선명해짐
해법은 사람처럼 보이는 태도를 줄이고 더 임상적이고 로봇 같은 말투를 쓰는 것일 수 있지만, 대화형 인터페이스 자체는 여러 면에서 잘 작동함

대화형 UX가 만드는 좌절

코딩 에이전트는 확률적으로 패치를 생성하는 기계라서 좋은 결과도 나쁜 결과도 낼 수 있지만, 나쁜 결과는 단순한 도구 실패보다 훨씬 더 짜증스럽게 느껴질 수 있음
핵심은 대화형 UX가 사람과 상호작용하는 듯한 감각을 만들고, 반복 실수에 대한 사용자의 사회적·감정적 반응을 자극한다는 데 있음
에이전트는 직접 물으면 감정이나 주관적 경험이 없는 AI assistant라고 답하지만, 실제 상호작용에서는 친근하고 느긋한 말투를 쓰며 사용자를 칭찬하고 반박도 부드럽게 처리함
사용자는 이성적으로는 “가능성 높은 텍스트 덩어리”를 읽고 있다는 점을 알지만, 도구의 행동 방식은 도움 되는 동료와 일하는 듯한 감각을 만들고 문제가 생기기 전까지 그 감각이 유지됨
같은 실수가 반복되면 사용자는 지적하고, 에이전트는 사과하며, 다시 지적하면 메모리를 업데이트하고 “다시는 그러지 않겠다”고 약속함
그래도 도구는 여전히 가장 확률 높은 경로를 따르기 때문에 HARD RULES로도 문제 행동에서 벗어나지 못하는 경우가 있음

인간 동료가 같은 실수를 반복한다면 불쾌감을 느낄 이유가 있지만, 알고리듬에 화를 내는 일은 부조리해 보임
그러나 코딩 에이전트가 동료처럼 행동하기 때문에 사용자는 같은 감정 회로를 작동시키고, 반복 실수는 실제 동료의 무책임처럼 느껴질 수 있음
인간 동료에게는 “끔찍한 사람이 되고 싶지 않다”는 제약이 분노 표현을 억제하지만, 에이전트에게는 마음껏 화를 낼 수 있다고 느끼게 됨
이런 분노 표출은 해소감으로 이어지지 않고, 사용자는 무엇을 하거나 말해도 실제 효과가 없다는 좌절만 더 분명히 느끼게 됨
Claude Code는 최근 수정받을 때 어디서 잘못됐고 무엇을 했어야 했는지 되짚는 경우가 있지만, 이런 사후 분석은 지시를 어떻게 바꿔야 하는지에 대한 유용한 단서를 주지 못하고 거슬리는 군더더기처럼 읽힐 수 있음

더 급진적인 해결책은 사람처럼 보이려는 태도를 버리고, 에이전트가 임상적이고 로봇처럼 말하게 만들어 사용자가 사람과 상호작용한다는 착각을 줄이는 방향일 수 있음
LLM의 지능은 “사람처럼 행동하려는” 메커니즘에서 나오기 때문에 대화형 인터페이스가 기본 방식으로 자리 잡은 것은 자연스럽고, 여러 면에서 잘 작동함
실용적으로는 사용자가 인간과 대화한다는 착각에 빠지지 않도록 스스로를 훈련해야 하지만, 업무 도구를 사용할 때 그런 방어가 필요해지는 미래는 달갑지 않음