소프트웨어가 더 이상 느릴 이유는 없다

코딩 에이전트가 과거 전문 인력이나 팀이 맡던 성능 최적화 비용을 크게 낮추면서, 몇 문장의 지시만으로 컴파일러·멀티스레딩·작업 부하별 최적화를 시험할 수 있게 됨 FRE에 네이티브 AOT 컴파일 전환을 추가하자 단순한 장시간 검색은 2~4배, 대표 홀드아웃 쿼리는 약 7% 빨라졌으며 사람의 작업 시간은 몇 분에 불과했음 Azul 게임 AI에서는 멀티스레딩과 반복적인 재작성·검증을 에이전트에 맡겨 훨씬 적은 시간과 컴퓨팅 자원으로 기존 최강 AI를 넘어섰고, 속도가 2배가 될 때마다 약 100 Elo가 상승함 개인 ripgrep 기록에 맞춘 최적화도 한 번의 패스만으로 홀드아웃에서 2% 향상됐지만, 데이터 분포가 바뀌면 과적합이 드러날 수 있고 현재 모델은 실험 설계가 약해 사람이 벤치마크 환경을 마련해야 함 고객별 데이터와 실제 사용 패턴에 맞춘 동적 맞춤 소프트웨어가 현실적인 선택지가 됐지만, 고급 기법보다 단순하고 투자 대비 효과가 큰 개선부터 적용하는 편이 합리적임 성능 최적화의 비용 구조 변화 LLM이 느리고 비대한 코드를 만든다는 우려와 달리, 모든 소프트웨어를 어셈블리로 다시 작성할 단계는 아니더라도 원하는 성능 수준을 선택할 수 있는 방향으로 바뀌고 있음 과거에는 희소한 전문 기술을 가진 개인이나 팀이 필요했던 작업을 이제 몇 문장의 지시로 실행할 수 있어, 대규모·고수익 프로젝트에만 타당했던 최적화도 시도할 수 있음 Marc Brooker는 특정 작업군 전체가 아니라 개별 작업 부하에 맞춘 동적 맞춤 소프트웨어가 가능해질 것으로 봄 FFTW처럼 특정 문제와 하드웨어에 맞춰 최적화하는 방식과 닮았음 과거 데모신에서는 코드 자체를 텍스처로 재사용해 캐시 지역성을 높이는 등 특정 조건에 극단적으로 맞춘 기법을 사용했음 이런 접근에는 새로운 위험과 기회가 함께 따름 Michael Malis는 일부 분야에서 코드 작성 자체가 실제 병목이었다고 봄 많은 소프트웨어가 JIT 컴파일러로 빨라질 수 있지만, 구현 난도가 높아 널리 사용되지 못했음 LLM이 진입 장벽을 낮추면서 JIT 구현과 데이터베이스 같은 복잡한 프로젝트에서 더 야심 찬 시도가 가능해졌으며, 이것이 pgrust의 전제임 FRE와 ripgrep의 AOT 실험 FRE는 에이전트가 한 달 동안 rebar 정규식 벤치마크에 맞춰 성능을 개선한 엔진임 초기에는 rebar에 심하게 과적합했음 별도 홀드아웃 벤치마크가 있다고 알려준 뒤 최적화가 일반화돼 ...