소개
AxonHub는 다양한 AI 모델 공급사를 하나의 통합 API로 연결하는 오픈소스 AI 게이트웨이 플랫폼입니다. OpenAI(Chat Completion, Responses), Anthropic, Gemini 등 주요 SDK와 호환되는 인터페이스를 제공하며, 요청 변환 파이프라인을 통해 별도 코드 수정 없이 모델 공급사를 전환할 수 있도록 설계되었습니다. 프로젝트는 GitHub의 looplj 저장소에서 호스팅되며, 채널 관리, 요청 추적, 권한 제어, 비용 추적 등 AI 개발 워크플로를 위한 부가 기능을 함께 제공합니다.
상세정보
통합 API 및 공급사 변환
OpenAI(Chat Completion, Responses), Anthropic, Gemini, AI SDK와 호환되는 통합 API 계층을 제공합니다. OpenAI SDK로 Claude를 호출하거나 Anthropic SDK로 GPT를 호출하는 식의 혼용 사용이 가능하며, 별도 코드 수정 없이 설정만으로 모델 공급사를 전환할 수 있습니다.
- OpenAI, Anthropic, Gemini 등 텍스트 생성 API 호환
- 이미지 생성(Image Generation) API 지원
- 리랭크(Rerank) API 지원
- 임베딩(Embedding) API 지원
요청 추적 및 스레드
스레드 단위의 트레이싱 기능을 통해 요청의 전체 타임라인을 기록합니다. 디버깅과 가시성을 높이기 위한 도구로, 요청 모니터 화면과 트레이스 조회 화면이 README에 포함되어 있습니다.
권한 관리(RBAC)
역할 기반 접근 제어(RBAC) 정책을 통해 팀 단위 접근 권한, 사용량, 데이터 분리를 세밀하게 통제할 수 있습니다.
적응형 로드밸런싱
헬스 체크, 성능, 세션 일관성을 기준으로 여러 AI 채널 사이에서 자동으로 라우팅합니다. README에서는 자동 장애 조치 목표를 100ms 미만으로 명시하고 있으며, 신규 모델 로드밸런스 전략 도입도 릴리즈 노트에 포함되어 있습니다.
비용 추적
입력·출력·캐시 토큰을 포함한 요청 단위 비용 내역과 실시간 사용량 추적 기능을 제공합니다.
채널 및 API 키 관리
여러 AI 제공업체 채널을 등록하고 각 채널의 API 키를 관리하는 UI를 포함합니다. 통합 API 키 관리 다이얼로그, 대량 가져오기, 채널별 규칙 액션, 자격 증명 단위 자동 비활성화 및 예약 복구 등 채널 운영 기능이 릴리즈 노트에서 지속적으로 확장되고 있습니다.
어떤 AI 제공업체와 호환되나요?
OpenAI, Anthropic, Gemini 등 주요 제공업체를 지원하며, OpenAI·Anthropic·Gemini 호환 API 계층을 통해 호출 형식을 변환합니다.
설치는 어떻게 하나요?
Windows에서는 winget을 통해 winget install --id looplj.AxonHub --exact 명령으로 설치할 수 있습니다.
API 키는 어떻게 관리하나요?
AxonHub는 게이트웨이 역할을 하므로, Channels 메뉴에서 각 AI 제공업체의 API 키를 등록하고, API Keys 메뉴에서 클라이언트가 사용할 AxonHub API 키를 별도로 생성해 사용합니다.
프로덕션 환경에서 바로 사용할 수 있나요?
현재 배포는 1.0.0-beta7 베타 릴리즈로 표시되어 있으므로, 프로덕션 사용 전 호환성과 안정성에 대한 별도 검증이 필요합니다.
시스템 요구사항
- Windows 운영 체제(x64 아키텍처)
- winget 패키지 관리자 사용 환경
- 각 AI 제공업체의 API 키(OpenAI, Anthropic, Gemini 등 채널 추가 시 필요)
- 클라이언트 SDK(OpenAI Python SDK 등)에서 AxonHub 엔드포인트로 요청을 보내기 위한 네트워크 연결


