저커버그의 “예상보다 더딘 AI agent 개발” 발언

Hacker News 의견들

• 작년 이맘때만 해도 올해쯤이면 회사들이 엔지니어링 팀을 소수만 남기고 줄이고, 대부분을 인간이 지시하는 자율 에이전트가 처리할까 봐 걱정했지만 그런 일은 일어나지 않았음
  지금은 모든 코드를 에이전트와 함께 쓰지만, 원하는 결과만 던져주고 감독 없이 맡기는 건 절대 불가능함
  예전보다 코드는 더 많이 만들 수 있지만, 제품 관리자와 디자이너가 원하는 대로 안정적이고 좋은 코드를 만들려면 증가 폭은 2~3배 정도이고, 그만큼 리뷰해야 할 코드도 2~3배로 늘어 생산성 향상이 상쇄됨

  • 동료들이 제대로 리뷰할 수 있는지는 신경 쓰지 않는다면, LLM 없이도 2~3배 많은 코드를 만들 수 있음
    코드 줄 수는 자산이 아니라 부채이고, 실제 자산인 기능을 해치지 않는 한 가능한 한 적어야 함
    소프트웨어 엔지니어링의 큰 부분은 적절한 시점에 적절한 양의 코드를 만드는 일임
  • 작년 이맘때는 Cursor의 Claude로 컴파일되는 서비스 뼈대조차 만들기 어려웠는데, 이미 자율 에이전트가 회사를 대체할 거라 걱정했다는 건 좀 의아함
    실제로 큰 손질 없이 어느 정도 작동하기 시작한 건 11월에서 2월 사이였고, 지금도 현재 모델과 도구를 어떻게 최대한 활용할지 조직들이 배우는 중으로 보임
  • 개발자가 직접 코드를 쓰는 일에서 에이전트를 관리해 코드를 쓰게 하는 일로 옮겨가는 건, 개발자가 리더십이나 관리 역할로 옮겨 개별 기여자가 코드를 쓰게 관리하는 것과 매우 비슷해 보임
    어떤 개발자는 금방 감을 잡고 팀을 잘 이끌며 좋은 문화를 만들지만, 많은 개발자는 IC에서 관리자로 바뀔 때 무엇이 달라지는지 지원받지 못하면 어려움을 겪음
    팀이나 에이전트 무리가 잘 못하면 구성원 문제가 아니라, 새 관리자가 모든 것을 붙잡고 마이크로매니징하거나 반대로 완전히 방치하다가 체크인 때만 나타나 결과물을 망쳐놓는 경우가 많음
    근거는 없지만 개발자에게 일종의 관리 교육을 시키면 에이전트 무리를 훨씬 잘 활용할 것 같음
  • 만족할 만한 코드를 에이전트에게 쓰게 하는 데 정말 애먹고 있음. 대부분 꽤 형편없음
    비교적 단순한 C# 코딩 스타일인데, 그 단순함을 전달하는 게 생각보다 어려움
    에이전트가 코드를 만들면 그게 맞는지 확인하는 데 오래 걸리고, 확인하지 않으면 동료 리뷰에서 질문받을 때 제대로 이해하지 못한 게 드러나 민망해짐
    세상이 팔을 퍼덕이면 날 수 있다고 말하는 느낌인데, 직접 해보면 제자리에서 에너지만 태우고 있음
  • AGENTS.md나 프롬프트에 있는 지시를 무시하는 게 최악이고, 꽤 자주 일어남
    설계의 일부로 명시적으로 하라고 한 일을 그냥 제쳐버림
    진짜 의미의 바이브 코더들은 프롬프트를 조심스럽게 쓰면 된다고 하지만, 조심스럽게 쓴 프롬프트가 무시되는 상황에서는 전혀 맞지 않음
    전역 AGENTS.md에 “묻지 않고 내 결정을 뒤집지 말라”고 넣어도 그냥 지키지 않음

• 이 글은 Reuters 기사 https://finance.yahoo.com/technology/ai/articles/exclusive-z...를 TechCrunch가 더 얇게 다시 쓴 것에 가까움
  정확한 인용은 “지난 최소 4개월 동안 에이전트형 개발의 궤적이 우리가 예상한 방식으로 실제 가속되지 않았고, 새 구조에 건 회사의 베팅이 아직 결실을 맺지 못했다”는 내용으로 보임
  여기서 Zuckerberg가 말한 에이전트형 개발의 궤적이 정확히 무엇인지는 추측하기 어렵지만, Meta 내부 모델의 도구 사용과 장문 작업 능력이 Codex나 Claude Code 같은 에이전트 실행 환경을 OpenAI·Anthropic 최고 모델 수준으로 구동할 만큼 개선되지 않았다는 뜻일 가능성이 큼
  더 나아가, 많은 직원을 AI 데이터 라벨링에 재배치한 것도 그 목표의 일부였을 듯함

  • 비관적으로 보면 Meta의 실행 환경도 공개적으로 쓸 수 있는 것들과 별반 다르지 않고, Zuckerberg는 전부 별로라고 보는 것일 수 있음
    높은 수준에서 보면 이런 에이전트들은 중간 규모 문제조차 합리적인 인간처럼 처리하지 못함
    메모리를 추가해도 환각된 맥락만 늘어나고, 작업 실패가 더 알아차리기 어려운 방식으로 바뀜
    그는 절대 비용과 정의 가능한 투자수익률을 놓고 자기합리화를 하고 있을 가능성이 큼

• 유용한 챗봇과 유용한 에이전트 사이의 간극은 사람들이 생각하는 것보다 훨씬 큼
  챗봇은 10% 틀려도 여전히 도움이 되지만, 에이전트가 10% 틀리면 아무도 확인하지 않는 상태에서 잘못된 이메일을 보내고 잘못된 API 호출을 하게 됨

  • 이건 범용 에이전트와 코딩 에이전트의 차이로 봄
    코딩 에이전트는 어떤 가정을 세우고 테스트해서 틀렸다는 걸 발견한 뒤 회복할 수 있음
    하지만 쉽게 테스트할 수 있는 범위를 넘어, 패치 작성이 아니라 실제 업무를 맡기면 사실이 아닌 것을 사실로 상상하는 게 문제가 됨
  • 텍스트나 코드에서는 판단이 어렵다는 게 문제임. 물리적 활동에서는 이렇게 보임: https://www.youtube.com/shorts/lK7TjujKQLw
    감독 없이 쓰기에는 잘해야 쓸모가 제한적이고, 최악에는 재앙이 될 수밖에 없어 보임
  • 그 간극은 메울 수 있음. 문제는 많은 사람들이 충분히 강한 판단 계층 없이 에이전트를 만들고 있다는 데 있음
    지금은 합리적인 정확도로 검증 가능한 일이 가장 잘 맞는 영역임

• “앞으로 3~6개월 안에 AI 투자에서 더 의미 있는 이익을 보기 시작할 것”이라는 건 AI처럼 환각하는 것이고, 현장의 사실을 받아들이지 못하는 상태로 보임
  Meta는 약 5년 전부터 metaverse, VR, 안경, AI에서 방향을 잃었고, 차분히 앉아 핵심 제품이 정확히 무엇인지 생각해야 함
  불행히도 WhatsApp과 Instagram 같은 인수 제품 말고는 뚜렷한 핵심이 없음

  • 지금은 궤도를 벗어난 독재자처럼 보임
    Careless People 저자가 사회에 대한 범죄를 폭로했다는 이유로 삶을 망치려 하고, 직원들은 내부 발표를 계속 유출하고 있음
  • 핵심 제품은 광고임
    광고라는 무한 돈 복사 버그가 있어서, 다른 허황된 꿈을 좇으며 수십억 달러를 낭비할 수 있음
    그 많은 꿈이 아무것도 아닌 것으로 끝나도 Meta에는 별 타격이 없음
  • 매몰비용 오류임

• 에이전트가 생긴 건 걷다가 자전거를 갖게 된 것과 비슷함
  경영진은 이걸 보고 “이 속도면 몇 년 안에 자율주행차가 나오겠다”고 생각하며 그 세상에 맞춰 진지하게 계획을 세움
  현실적으로는 오랫동안 자전거를 타게 될 것 같고, 개인 기여자의 생산성이 올라가는 상황은 엔지니어를 예산 부담이 아니라 더 가치 있고 쓸모 있는 존재로 만듦
  그러므로 엔지니어가 훨씬 더 생산적이 될 잠재력이 커진 바로 그때 인원을 줄인 건 어리석은 결정임
  이는 사람을 효과적으로 관리하는 법을 모른다는 고백이고, 관리 능력으로 막대한 돈을 받는 입장에서는 꽤 부끄러운 일임

  • 에이전트가 생긴 건 걷다가 자전거를 갖게 된 게 아니라, 잘해야 롤러스케이트를 신은 정도임
    그것도 바퀴가 육각형일 가능성이 큼
  • 우리가 정말로 오랫동안 “그저 자전거만” 타게 될지는 아무도 모름
    사회가 적응할 시간을 벌기 위해서는 그렇게 되길 바라지만, 실제로는 전혀 알 수 없음

• 모두가 과소평가한 건 필요한 연산 자원의 미친 듯한 규모와, 더 큰 모델을 따라가기 위해 그 연산 자원이 어떻게 확장되어야 하는지였다고 봄

  • 그보다 더 큰 문제는 사람들이 연산 자원을 더 던지면 AI가 얼마나 발전할지 과대평가한다는 데 있음
    AI판 “여자 9명이 있어도 아기를 한 달 만에 낳을 수는 없다”에 가까움
    추가 연산 자원이 마법처럼 범용 인공지능을 만들어주지는 않음
  • 2010년대에 준비가 덜 된 기초 모델을 상용화하려는 세 번의 시도에 관여했기 때문에, 이런 류의 진전이 어떻게 일어나는지 감이 있음
    업계가 말해온 속도는 비현실적이고, 예를 들어 사람들이 Apple Intelligence의 발전 속도에 실망했지만 실제로는 예상한 정도의 속도로 진행됐음
  • 그게 Meta에 문제일까? 최근에는 남는 연산 자원을 팔겠다고 발표했음
    실제 문제는 AI가 기대만큼 효과나 사용량을 만들지 못해서 그렇게까지 하게 됐고, Zuck이 이긴 것 같지만 기분 나쁜 승자가 된 것일 수 있음
  • 효율성 돌파구가 나오기 전까지는 비효율적으로 확장될 것임
    다만 그 돌파구가 언제 올지는 예측하기 매우 어렵기 때문에, 최악을 가정해 계획하되 기회가 오면 활용할 수 있게 준비해야 함
  • 이 정도는 기본적인 대략 계산만 해도 쉽게 추정할 수 있을 것 같음

• AI가 생산성의 큰 도약이라면, 회사는 경쟁 우위로 더 많은 시장 점유율을 얻기 위해 같은 수나 더 많은 직원을 고용해야 하지 않을까
  직원이 더 효율적이 됐다는 이유로 줄이는 건, 경주에서 같은 자리에 서 있으려고 자기 발을 쏘는 것처럼 보임
  AI는 덜 숙련된 직원도 더 고용 가능하고 유용하게 만들었어야 하므로 고용 시장 호황을 불러왔어야 함
  그렇지 않다는 건 AI가 인원 감축의 핑계일 뿐, 근본 원인은 아닐 가능성을 시사함

  • 근시안임
    이 기술은 10년도 되지 않았고, 정말 유용해진 것도 최근 3년 정도임
    벌써 변혁적이길 기대하는 이유가 뭔지 모르겠음
    “인터넷은 화려한 팩스 기계일 뿐”이라고 하던 것과 비슷함
  • Zuckerberg도 1년쯤 전에 정확히 그렇게 말했음

• 문제는 사람과 함께 일하고 있다는 데 있음. 그것도 각자 오래도록 익힌, 좁고 특수한 방식으로 일해온 똑똑한 사람들임
  모든 엔지니어가 당신처럼 AI에 빠져서 요청받을 때마다 Claude Code를 켤 거라고 가정하면 접근이 틀린 것임
  아무리 훌륭한 도구라도 엔지니어의 행동과 작업 방식에 맞지 않으면 그냥 버려짐
  고객이나 잠재 고객에게서 이 문제를 늘 봄. 5명짜리 팀이 2주 동안 foobar 위젯 하나를 만들면 50인일이 들어간 것임
  누군가 AI로 같은 것을 2시간 만에, 그것도 같거나 더 높은 품질로 만들 수 있음을 보여주면 경영진은 좋아하겠지만, 팀은 여전히 손으로 프로그래밍하고 빌드 도구 오류를 Stack Overflow 대신 ChatGPT에 묻는 정도에 그칠 수 있음
  도구를 나눠주고 멋지다고 말하는 것만으로는 충분하지 않음
  엔지니어링 팀을 이해하고, 함께 일하고, 단계별로 제대로 이끌어야 하며 행동을 바꿔야 함
  그건 하룻밤에 일어나지 않음. 안타깝게도 지금의 접근은 AI 지원 소프트웨어 엔지니어링 시대에 성과를 못 내는 사람을 내보내는 쪽인데, 그건 옳지 않다고 봄

• Zuckerberg가 AI 에이전트에 대해 뭐라고 말하든 왜 신경 써야 하나 싶음
  그는 2000년대 초 PHP 개발자였고 Facebook으로 운이 좋았던 사람이지, AI 과학자나 연구자가 아님
  AI 에이전트의 미래를 말할 어떤 권위가 있나
  회사 사기는 사상 최저 수준이고, 그건 그가 집중해야 할 리더십 역량을 더 잘 보여줌. 아니면 에이전트가 곧 그를 대체할지도 모름

  • Zuckerberg를 전혀 좋아하지 않지만, 그의 생각을 신경 쓸 만한 이유는 꽤 있음
    그는 높은 수준에서 AI 에이전트 개발 상당 부분을 감독하므로 성공 여부를 볼 위치에 있고, 자세한 지표도 받을 것임
    그의 판단이 맞든 아니든, 기술 업계 CEO들은 유행을 좇는 것으로 악명 높아서 그의 판단이 다른 회사들의 분위기를 정할 수 있음
    어쩌면 그 자신도 이번에는 유행을 따라가는 쪽이고, AI 과열을 초기에 낮추는 흐름을 주도하는 중일 수도 있음
  • 오랜만에 CEO가 한 말 중 가장 냉정한 축에 드는 내용이 “CEO 생각을 누가 신경 쓰나?” 취급을 받는 게 흥미로움
  • 그래도 그는 세계에서 가장 큰 기술 기업 중 하나를 운영하고 있음
  • 새로운 통찰이 전혀 없더라도, 그는 AI뿐 아니라 대부분의 일에 대해 일반인은 앞으로도 얻기 어려울 정보에 접근할 수 있음
    칭찬하려는 건 아니고, 많은 대기업 C레벨에게도 마찬가지로 적용되는 이야기임
  • 그는 수많은 AI 과학자와 연구자를 고용한 1조 달러 기업을 이끌고 있음

• 측정된 생산성과 “일화적” 생산성 사이에는 괴리가 있음
  이 차트가 좋은 이유는 생산성을 올리는 가장 효과적인 방법 중 하나도 보여주기 때문임. 단순히 인력을 줄이면 됨
  https://fred.stlouisfed.org/series/OPHNFB

  • 노동자 1인당 산출은 생산성의 공식 정의지만, 그렇다고 산출이 고정돼 있다고 가정해서는 안 됨
    희소성이 있는 조건에서는 보통 산출을 늘리거나 다른 종류의 산출을 만드는 편이 이롭고, 누군가 돈을 낸다면 더욱 그럼
    그래서 중요한 질문은 무엇이 희소한지, 누군가 그에 돈을 낼지, 어떻게 그것을 더 많이 만들지임
    사람들이 돈을 낼 만한 것을 만들 수 있다면 사람을 고용해 만들 수 있음
    안타깝게도 돈 있는 사람들이 기꺼이 지불하는 가장 뚜렷한 것은 AI 토큰, 데이터센터, 데이터센터 투입물임
    이것이 우리가 원하는 다른 것들을 더 많이 얻게 해줄지는 불분명함
  • 모두를 해고하고 스스로도 월급을 받지 않으면 비용을 줄이고 생산성도 올릴 수 있음
    투자의 목적은 생산, 성장, 이익이지 생산성 그 자체가 아님