最新

我经常看到一些项目，它们在模型/提示词方面表现出色，但在其他方面却步履维艰——部署、身份验证、计费、域名设置、监控。我很感兴趣：（1）在发布智能体时，哪些非 AI 基础设施最耗时？（2）你们目前在这方面的花费是多少？

我为 Java 序列化库 json-io 构建了 TOON 支持。TOON 是一种基于缩进的格式，专为 LLM（大型语言模型）应用设计，在这些应用中，每个 token 都会消耗费用并占用上下文窗口。 它与 JSON 存储相同的数据，但 token 数量减少了约 40-50%。没有大括号、方括号、逗号或不必要的引号。统一对象的数组会自动转换为类似 CSV 的表格。 JSON: ```json {"team":"Rockets","players":[{"name":"John","age":30},{"name":"Sue","age":27}]} ``` TOON: ``` team: Rockets players: name, age John, 30 Sue, 27 ``` json-io 可以读取/写入 JSON、JSON5 和 TOON 格式，支持 60 多种内置 Java 类型，循环引用，并且无需配置。它还有一个 Spring Boot Starter 和 Spring AI 模块。 GitHub: [https://github.com/jdereg/json-io](https://github.com/jdereg/json-io) TOON 规范: [https://toonformat.dev](https://toonformat.dev) Baeldung 文章: [https://www.baeldung.com/java-json-toon-format-libraries](https://www.baeldung.com/java-json-toon-format-libraries)