最新

我一直在尝试基于 Agent 的功能，让我感到惊讶的是，估算 API 成本竟然如此之难。<p>一个用户操作可以触发从几个到几十个 LLM 调用（工具使用、重试、推理步骤），而基于 token 的定价方式使得成本变化很大。<p>这里的开发者们在为 SaaS 定价时是如何规划的呢？<p>你们是简单地提高利润率、限制使用量，还是构建内部成本跟踪系统？ 另外，我也很好奇，对于构建 Agent 工作流程的人来说，提供可预测的 AI API 定价服务（例如固定订阅费用）真的有用吗？