소형 모델의 시대가 도래함

gpt-5.6-luna는 약 100tps로 코드베이스·이메일·지식 기반을 처리하며, 복잡한 조사와 수천 개 이메일 검색도 수십 센트 수준에 실행할 수 있음 개인화 일일 뉴스 사이트의 생성 비용이 Sonnet급 모델의 약 $1에서 luna의 평균 $0.10으로 낮아지며 소비자 AI 서비스의 비용 구조가 달라짐 기존 소비자 앱은 낮은 운영비로 사용자를 확보한 뒤 광고 시장을 구축했지만, AI 기능은 요청마다 추론 비용을 발생시켜 필요한 자본을 크게 늘림 기업 업무는 독창적인 난제를 푸는 “IQ 180” 유형과 여러 사안을 빠르게 진전시키는 “토큰 분출형(token spewer)”으로 나뉘며, Peter의 업무 중 약 95% 는 후자에 해당함 공학·기초과학·모델 훈련에서는 최첨단 모델 수요가 계속 커지겠지만, 일상적인 기업 업무에서는 빠르고 저렴하며 충분히 좋은 모델의 활용이 본격적으로 늘어날 전망임 소형 모델이 바꾸는 소비자 AI의 비용 gpt-5.6-luna는 약 100tps로 작동하며 코드베이스, 이메일, 지식 기반을 빠르게 탐색함 복잡한 조사 스레드에서도 큰 비용이 들지 않으며, 수천 개 이메일을 검색해도 API 비용은 수십 센트에 머묾 GLM 5.3도 새로운 파레토 최전선의 선택지로 평가됨 코딩에는 Fable 5나 5.6 Sol처럼 가장 비싸고 성능이 높은 모델을 주로 사용해, 작고 빠른 모델의 발전을 놓치기 쉬웠음 대형 소비자 앱은 일반적으로 다음 방식으로 성장해 왔음 운영비가 비교적 낮으면서 매력적인 웹사이트를 제작함 바이럴 등을 통해 사용자를 확보하고 투자금을 유치해 확장함 이후 광고 시장을 구축함 Google, Facebook, Snapchat 등이 대체로 이 방식을 따랐으며 Amazon과 Netflix는 주목할 만한 예외임 AI 기능은 요청마다 실제 추론 비용을 발생시키므로 소비자 앱에 필요한 자본 규모를 크게 키움 개인 맞춤형 일일 뉴스 사이트 평가에서는 인터넷상의 @calvinfo를 조사하고 HN, Reddit, Twitter 등에서 관심 뉴스를 찾아 마이크로사이트를 생성함 이전 Sonnet급 모델로 유용한 결과를 얻으려면 약 $1이 필요해 월 $30 소비자 앱으로 제공하기 어려웠음 최적화할 여지는 있지만 WSJ나 The Economist 수준의 요금을 받으려면 그에 걸맞은 가치를 제공해야 함 luna는 꽤 괜찮은 결과를 평균 약 $0.10에 생성함 기업 업무에서의 활용 가능성 Segment 공...