高效管理和代理 LLM API,支持多渠道负载均衡、配额管理、请求日志和健康监控
支持 OpenAI、Claude、Azure 等多种 LLM 提供商,以及自定义 Generic API
基于优先级和权重的渠道选择策略,自动故障转移
精确的 Token 用量统计和配额管理,支持多租户
自动检测渠道状态,实时告警,确保服务稳定
完整的请求记录,支持按时间、模型、类型过滤查询
完全兼容 OpenAI API 格式,无缝迁移现有应用