返回首页

一周热榜

1作者: shikharja5 天前
我构建了一个用于构建代理的技能,它帮助我能在几天内交付代理产品,而过去这需要几周时间,并且经常在生产环境中出现故障。这个技能的灵感来源于 gstack。
1作者: gurveer515 天前
每个 AI 项目都需要相同的基础设施——API 密钥、提供商 SDK、重试逻辑、成本跟踪。这应该是一个基础设施层。 Aurora 是一个 Go 网关,负责处理这一层,二进制文件约 15MB,无依赖。它代理请求到 OpenAI、Anthropic、Gemini 等,并可以在格式之间进行转换——使用 OpenAI SDK,Aurora 会自动将其转换为 Anthropic 的线协议格式。后端无需格式转换代码。 它有助于: - 按客户/团队跟踪成本 - 无需更改代码即可切换模型和提供商 - 更轻松地调试请求和响应流 - 通过精确和语义缓存降低成本 它与其他网关的不同之处: - 自动发现提供商模型 - 具有自动故障转移切换的提供商池 - 内置守护程序、可导出的审计日志、分析、管理仪表板 - 模型别名、区域部署以降低延迟。 - 可直接在基础设施中使用,管理端点可控制一切,在用户入职时创建托管 API 密钥等。 开源版本(Apache 2.0)包含所有功能。企业版增加了 SSO、RBAC 和租户隔离。 npm install -g iaurora 网站:https://aurorallm.online 欢迎反馈!