버그를 환자처럼, 코딩 에이전트를 의료팀처럼 다룬 5개월

1 hour ago 2

Cockroach Labs는 계획 검토, 독립적인 코드 리뷰, 인계와 병합 감사를 거치는 교육병원형 코딩 파이프라인 MOLT Sinai를 구축해 약 5개월간 운영함 첫 대형 실험인 IBM Db2 마이그레이션 지원은 사람이 코드를 작성하지 않고 이틀 미만, 토큰 비용 4,172달러에 구현됨. 다만 당시 코드는 사람이 검토하지 않았으며, 정확성 검증은 아직 진행 중임 품질 통제의 중심은 코드 작성 전 계획 승인과 검토 가능한 크기로의 작업 분할임. 테스트를 약화하는 우회를 금지하고, 막힌 작업은 구조화된 인계를 통해 상위 역할에 넘김 실험 저장소에서 PR 1,238개가 병합됐고, 이후 되돌린 PR은 7개였음. 첫 주의 자율 운영 이후에는 모든 병합에 사람 검토를 요구함 운영 과정에서 리뷰 무한 반복과 절차 과잉, 비대해진 지침, 에이전트가 생성하는 과도한 작업 목록이 드러남. 리뷰 중단 기준과 제안량 제한을 도입했으며, 주니어 엔지니어의 학습을 지원하는 기능도 개발 중임 Db2 지원 구현으로 시험한 병원형 개발 CockroachDB로 데이터베이스를 이전하는 도구 MOLT에 IBM Db2 소스 지원을 추가하는 작업을 4월의 수요일 저녁부터 금요일 오후까지 진행함 Db2의 풍부한 SQL 방언, 복잡한 타입 시스템, 고유 통신 프로토콜을 지원해야 했음 새 스키마 변환기, 행을 추출하고 적재하는 Fetch 경로, 적재 결과를 비교하는 Verify 경로, 저장소에 포함한 ANTLR 문법, CI용 Docker 이미지, 1만 줄 이상의 테스트 픽스처가 필요했음 사람이 코드를 작성하지 않고 이틀 미만에 구현했으며, 토큰 비용은 4,172달러였음 2024년 Oracle 지원에 해당하는 작업은 9개월, 엔지니어링 시간 비용 약 16만 달러가 들었음 이 비교에서 Db2 작업은 164배 빠르고 비용은 38분의 1이었음 출발점은 요구사항을 적은 GitHub 이슈 하나였으며, 계획 에이전트가 이를 의존성 그래프를 갖춘 15개 하위 이슈로 나눔 기반 작업, 타입 시스템, 행 반복자, Fetch, Verify, Convert, CI, 테스트 데이터 순으로 구성했으며, 하위 이슈 2개는 다시 분할함 작업 중 테스트 픽스처 누락, 타입 매핑 버그, 격리 수준 수정 등 자체 작업에 대한 이슈도 12개 추가함 최종적으로 하위 이슈 32개, 병합 PR 27개, 리뷰 반려 55회가 발생했으며, 상위 역할로 넘어간 이슈 9개 중 2개가 사람에게 도달함 가...

Read Entire Article