OpenRouter Fusion API
1 week ago
12
- Fusion은 하나의 프롬프트를 여러 모델의 병렬 분석과 심사 모델의 종합으로 처리해 최종 답변을 만드는 OpenRouter 라우터임
- 전문가 모델 패널은 웹 검색과 웹 가져오기를 활성화한 상태로 프롬프트를 분석하고, 심사 모델은 합의점·모순·부분적 범위·고유한 통찰·사각지대를 구조화함
- 기본 패널은 Quality 프리셋이며, 더 저렴한 구성에는 Budget을 쓰거나 analysis_models와 model 필드로 패널과 심사 모델을 직접 지정할 수 있음
- 요청 비용은 단일 모델 호출이 아니라 패널 구성원 전체와 심사 호출의 기반 completion 합산으로 책정되며, 실제 실행 모델은 Activity에서 확인할 수 있음
- 단일 모델로 충분하지 않은 연구, 전문가 비평, 오류 비용이 여러 추가 completion보다 큰 작업에 적합하며, 컨텍스트 한도는 선택한 모델에 따라 달라짐
OpenRouter: Fusion
- Fusion은 프롬프트를 작은 규모의 다중 모델 숙의로 바꾸는 openrouter/fusion 라우터임
- 전문가 모델 패널이 프롬프트를 병렬로 분석하며, 이 과정에서 웹 검색과 웹 가져오기가 활성화됨
- 심사 모델은 패널 응답을 바탕으로 구조화된 분석을 만들고, 그 분석에서 최종 답변을 작성함
- 구조화된 분석에는 합의점, 모순, 부분적으로 다룬 범위, 고유한 통찰, 사각지대가 들어감
패널 구성과 사용 목적
- 기본 패널은 Quality 프리셋임
- 더 저렴한 구성원이 필요하면 Budget 프리셋으로 전환할 수 있음
- Fusion 플러그인의 analysis_models와 model 필드를 사용하면 패널과 심사 모델을 완전히 재정의할 수 있음
- 단일 모델로 충분하지 않은 연구, 전문가 비평, 오류 비용이 몇 번의 추가 completion보다 큰 작업에 Fusion을 사용할 수 있음
가격과 실행 모델 확인
- Fusion은 모든 패널 구성원 호출과 심사 호출을 실행하므로, 요청 가격은 단일 모델이 아니라 기반 completion들의 합계로 계산됨
- 어떤 모델이 실행됐는지는 Activity에서 확인할 수 있음
- 컨텍스트 한도는 선택한 모델에 따라 달라짐
- 자세한 사용법은 docs에서 확인할 수 있으며, 다른 라우팅 방식으로 Auto Router가 있음
라우터 내 모델
- 이 라우터에는 6개 모델이 있음
- 프리셋은 Fusion 플러그인의 preset에서 슬러그로 참조할 수 있으며, 예시는 general-high임
- 패널은 analysis_models로 재정의할 수 있음
Quick Start
-
API 키 받기
- OpenRouter 대시보드에서 API 키를 만들고 환경 변수로 설정함
- 예시 명령은 export OPENROUTER_API_KEY=sk-or-v1-...임
-
첫 요청 보내기
- OpenRouter API에서 모델 슬러그로 openrouter/fusion을 사용함
- OpenRouter API는 OpenAI 호환 completion API를 제공하며, 400개 이상 모델과 제공자를 직접 호출하거나 OpenAI SDK로 호출할 수 있음
- OpenRouter 전용 헤더는 선택 사항이며, 설정하면 앱이 OpenRouter 리더보드에 표시될 수 있음
- TypeScript SDK 예시는 @openrouter/sdk의 OpenRouter를 생성하고 openrouter.chat.send에 model: "openrouter/fusion"과 사용자 메시지를 전달함
-
서드파티 SDK
-
스트리밍 활성화
엔드포인트
Fusion이 많이 사용한 상위 모델
-
Homepage
-
개발자
- OpenRouter Fusion API