OpenRouter Fusion API

1 week ago 12
  • Fusion은 하나의 프롬프트를 여러 모델의 병렬 분석과 심사 모델의 종합으로 처리해 최종 답변을 만드는 OpenRouter 라우터임
  • 전문가 모델 패널은 웹 검색과 웹 가져오기를 활성화한 상태로 프롬프트를 분석하고, 심사 모델은 합의점·모순·부분적 범위·고유한 통찰·사각지대를 구조화함
  • 기본 패널은 Quality 프리셋이며, 더 저렴한 구성에는 Budget을 쓰거나 analysis_models와 model 필드로 패널과 심사 모델을 직접 지정할 수 있음
  • 요청 비용은 단일 모델 호출이 아니라 패널 구성원 전체와 심사 호출의 기반 completion 합산으로 책정되며, 실제 실행 모델은 Activity에서 확인할 수 있음
  • 단일 모델로 충분하지 않은 연구, 전문가 비평, 오류 비용이 여러 추가 completion보다 큰 작업에 적합하며, 컨텍스트 한도는 선택한 모델에 따라 달라짐

OpenRouter: Fusion

  • Fusion은 프롬프트를 작은 규모의 다중 모델 숙의로 바꾸는 openrouter/fusion 라우터임
  • 전문가 모델 패널이 프롬프트를 병렬로 분석하며, 이 과정에서 웹 검색과 웹 가져오기가 활성화됨
  • 심사 모델은 패널 응답을 바탕으로 구조화된 분석을 만들고, 그 분석에서 최종 답변을 작성함
  • 구조화된 분석에는 합의점, 모순, 부분적으로 다룬 범위, 고유한 통찰, 사각지대가 들어감

패널 구성과 사용 목적

  • 기본 패널은 Quality 프리셋임
  • 더 저렴한 구성원이 필요하면 Budget 프리셋으로 전환할 수 있음
  • Fusion 플러그인의 analysis_models와 model 필드를 사용하면 패널과 심사 모델을 완전히 재정의할 수 있음
  • 단일 모델로 충분하지 않은 연구, 전문가 비평, 오류 비용이 몇 번의 추가 completion보다 큰 작업에 Fusion을 사용할 수 있음

가격과 실행 모델 확인

  • Fusion은 모든 패널 구성원 호출과 심사 호출을 실행하므로, 요청 가격은 단일 모델이 아니라 기반 completion들의 합계로 계산됨
  • 어떤 모델이 실행됐는지는 Activity에서 확인할 수 있음
  • 컨텍스트 한도는 선택한 모델에 따라 달라짐
  • 자세한 사용법은 docs에서 확인할 수 있으며, 다른 라우팅 방식으로 Auto Router가 있음

라우터 내 모델

  • 이 라우터에는 6개 모델이 있음
  • 프리셋은 Fusion 플러그인의 preset에서 슬러그로 참조할 수 있으며, 예시는 general-high임
  • 패널은 analysis_models로 재정의할 수 있음

Quick Start

  • API 키 받기

    • OpenRouter 대시보드에서 API 키를 만들고 환경 변수로 설정함
    • 예시 명령은 export OPENROUTER_API_KEY=sk-or-v1-...임
  • 첫 요청 보내기

    • OpenRouter API에서 모델 슬러그로 openrouter/fusion을 사용함
    • OpenRouter API는 OpenAI 호환 completion API를 제공하며, 400개 이상 모델과 제공자를 직접 호출하거나 OpenAI SDK로 호출할 수 있음
    • OpenRouter 전용 헤더는 선택 사항이며, 설정하면 앱이 OpenRouter 리더보드에 표시될 수 있음
    • TypeScript SDK 예시는 @openrouter/sdk의 OpenRouter를 생성하고 openrouter.chat.send에 model: "openrouter/fusion"과 사용자 메시지를 전달함
  • 서드파티 SDK

    • OpenRouter와 함께 서드파티 SDK 및 프레임워크를 사용하는 정보는 frameworks documentation에서 확인할 수 있음
  • 스트리밍 활성화

    • 요청 본문에 "stream": true를 추가하면 서버 전송 이벤트 방식으로 응답을 받을 수 있음
    • cURL 예시는 https://openrouter.ai/api/v1/chat/completions에 Authorization: Bearer $OPENROUTER_API_KEY와 model: "openrouter/fusion"을 보내며, "stream": true를 함께 설정함

엔드포인트

  • POST https://openrouter.ai/api/v1/chat/completions는 주어진 채팅 대화에 대해 모델 응답 요청을 보내며, 스트리밍과 비스트리밍 모드를 모두 지원함
    • 인증은 Bearer $OPENROUTER_API_KEY임
    • Content-Type은 application/json임
    • HTTP-Referer와 X-Title은 랭킹용 선택 헤더임
    • 모델은 openrouter/fusion임
  • POST https://openrouter.ai/api/v1/responses는 OpenAI Responses API 형식으로 스트리밍 또는 비스트리밍 응답을 생성함
    • 인증, 콘텐츠 타입, 선택 헤더, 모델 값은 동일함
    • 관련 문서는 Docs
  • POST https://openrouter.ai/api/v1/messages는 Anthropic Messages API 형식으로 메시지를 생성함
    • 텍스트, 이미지, PDF, 도구, 확장 사고를 지원함
    • 관련 문서는 Docs

Fusion이 많이 사용한 상위 모델

Read Entire Article