주요 특징

• 프로토콜 번역이 이 프로젝트의 출발점입니다. 클라이언트는 OpenAI Chat Completions, OpenAI Responses, Anthropic Messages 중 자기가 쓰던 형식으로 요청을 보내고, Switchyard가 백엔드 고유 형식으로 바꿔 전달한 뒤 응답을 다시 클라이언트가 기대하는 모양으로 되돌립니다. 스트리밍 응답까지 번역 대상에 포함되며, 이 변환 로직은 switchyard-translation 크레이트로 따로 떨어져 있어 요청·응답·스트림 각각을 개별적으로 다룰 수 있습니다.
• 라우팅 알고리즘을 네 종류 제공하고 성격이 뚜렷하게 갈립니다. llm_classifier는 별도 모델이 요청 내용을 읽어 약한 티어와 강한 티어 중 하나를 고르고, stage_router는 도구 실행 결과나 오류처럼 대화에 이미 들어 있는 신호만으로 판단해 추가 모델 호출 없이 대부분의 턴을 처리합니다. escalation 모드는 일단 약한 티어로 답을 만든 뒤 심판 모델이 그 답을 읽고 강한 티어 재요청 여부를 정하며, random은 A/B 테스트나 비용 실험용 고정 트래픽 분할에 씁니다. 라우팅 없이 대상 하나만 등록하는 passthrough도 있습니다.
• 서버와 라이브러리 두 갈래로 쓸 수 있습니다. 서버 경로는 cargo install --locked switchyard-server 로 바이너리를 받아 routes.toml 설정으로 띄우는 방식이고, --dry-run 으로 설정 파일을 먼저 검증한 뒤 기동할 수 있습니다. 라이브러리 경로인 switchyard-libsy는 모델을 직접 호출하지 않고 어느 대상으로 보낼지만 결정한 다음 실제 호출을 호출자에게 되돌려주기 때문에, HTTP 스택을 소유하지 않은 채 기존 프록시나 게이트웨이, 에이전트 런타임 안에 끼워 넣을 수 있습니다.
• 운영 지표를 Prometheus 형식으로 노출합니다. 요청 수와 오류, 지연 시간, 토큰 사용량에 더해 라우팅 자체가 만들어 내는 오버헤드까지 별도로 계측하는데, 이는 분류 모델을 한 번 더 호출하는 llm_classifier 방식이 실제로 얼마나 비용을 더 쓰는지 판단할 때 필요한 수치입니다. 크레이트가 switchyard-server, switchyard-libsy, switchyard-protocol, switchyard-translation, switchyard-llm-client 로 나뉘어 있어 필요한 계층만 골라 의존할 수 있습니다.
• 성숙도에 대해서는 저장소가 스스로 선을 긋고 있습니다. README는 Switchyard를 pre-alpha 소프트웨어로 명시하면서 v1.0 이전까지 API와 알고리즘이 크게 바뀔 수 있다고 경고하고, 실험용이며 프로덕션에는 쓰지 말라는 문구를 별도 블록으로 붙여 뒀습니다. 라이브러리 의존성 예시도 crates.io 버전이 아니라 v0.2.0 태그를 가리키는 git 참조로 안내합니다. 스타 2천 개를 넘겼지만 아직 정식 릴리스 전 단계라는 점을 감안하고 도입해야 합니다.