StepFun의 100만 토큰 컨텍스트 MoE 모델 Step 5 Preview, OpenRouter에 등장

1 day ago 2

Step 5 Preview는 대규모 코드베이스와 문서를 다루며 도구 사용과 여러 단계의 결과 개선을 수행하도록 설계한 StepFun의 에이전트 작업용 주력 모델임 희소 MoE 구조로 전체 6,000억 개 파라미터 중 270억 개를 활성화하며, 100만 토큰 컨텍스트와 최대 6만 4,000토큰 출력을 지원함 텍스트, 이미지, 영상 입력을 받아 텍스트를 출력하며, 함수 호출과 JSON 스키마 기반 구조화된 출력을 지원함 100만 토큰당 입력 1달러, 출력 2.70달러이며, 캐시 읽기는 0.05달러임 OpenRouter에서는 StepFun 단일 제공업체가 모든 요청을 처리하며, 제공업체 표에 표시된 P50 지연 시간은 3.44초, 처리량은 초당 40토큰임 모델 구조와 작업 범위 Step 5 Preview는 2026년 10월 8일 출시된 StepFun의 에이전트 작업용 주력 모델임 희소 전문가 혼합(MoE) 구조를 사용하며, 전체 파라미터는 600B, 활성 파라미터는 27B임 소프트웨어 엔지니어링과 전문 지식 업무에 강점을 두며, 특히 금융 분야에 강함 대규모 코드베이스와 문서에 걸친 장시간 작업에서 도구를 사용하고 여러 단계에 걸쳐 결과를 개선하도록 설계됨 컨텍스트 창은 1,000,000토큰, 최대 출력은 64,000토큰임 텍스트, 이미지, 영상을 입력받고 텍스트를 출력함 제공업체와 요금 StepFun 한 곳이 모델을 호스팅하며, OpenRouter는 제공업체를 선택하는 라우팅 없이 모든 요청을 직접 전달함 정가는 100만 토큰 기준 입력 1달러, 출력 2.70달러, 캐시 읽기 0.05달러임 캐싱과 할인 적용 후의 가중평균 실결제 가격은 입력 100만 토큰당 0.08589달러, 출력 2.70달러임 가격 이력 표의 캐시 적중률은 96.2%, 최근 1일 토큰 점유율은 StepFun이 100%임 처리 성능과 오류율 제공업체 표와 성능 요약에 표시된 P50 처리량은 초당 40토큰, P50 지연 시간은 3.44초임 별도의 최근 3일 성능 차트에는 전체 위치와 모든 추론 강도 기준으로 다음 평균값이 표시됨 처리량: P50 52, P75 82, P90 116, P95 133, P99 162토큰/초임 지연 시간: P50 3.09초, P75 7.52초, P90 18.67초, P95 32.43초, P99 72.62초임 종단 간 지연 시간: P50 13.80초, P75 32.02초, P90 73.85초, P95 120.02초, P99 ...

Read Entire Article