最新

我构建了 MicroSafe-RL，旨在解决强化学习和边缘 LLM 部署中的“硬件损坏”问题。 技术细节：它是一个裸机 C++ 拦截器，使用基于控制李雅普诺夫函数的 EMA+MAD 稳定性指标。 性能：最坏情况执行时间 (WCET) 为 1.18 微秒。无堆，无动态分配，仅 24 字节状态。 “桥梁”：最新更新包含一个 Python-C++ 桥梁，用于将本地 LLM（例如通过 Ollama 的 Gemma 4）用作机器人控制器，同时确保其物理安全。 目前正在 IEEE Transactions on Aerospace and Electronic Systems 审稿中。 GitHub：[https://github.com/Kretski/MicroSafe-RL](https://github.com/Kretski/MicroSafe-RL)

我主要使用积分和里程来旅行。每次预订都归结为同一个决定：使用积分还是支付现金？要回答这个问题，你需要了解多个项目的奖励机票可用性、现金价格、你当前的余额、转账伙伴比例，以及比较它们的计算方法。我厌倦了手动在十几个标签页中进行这些操作。 这个工具包教 Claude Code 和 OpenCode 如何做到这一点。它包含 7 个技能（带有 API 文档和 curl 示例的 Markdown 文件）和 6 个 MCP 服务器（AI 直接调用的实时工具）。 它可以搜索 25+ 个里程项目的奖励航班（Seats.aero），比较现金价格（Google Flights、Skiplagged、Kiwi.com、Duffel），提取你的忠诚度余额（AwardWallet），搜索酒店（Trivago、LiteAPI、Airbnb、Booking.com），查找 33 个国家的渡轮路线，并查找目的地附近的奇怪的隐藏宝石（Atlas Obscura）。 参考数据包括：Chase UR、Amex MR、Bilt、Capital One 和 Citi TY 的转账伙伴比例。积分估值来自 TPG、Upgraded Points、OMAAT 和 View From The Wing。联盟会员资格、兑换亮点、预订窗口、连锁酒店品牌查询。 6 个 MCP 服务器中有 5 个不需要 API 密钥。克隆、运行 setup.sh，开始搜索。 技能和往常一样，是纯 Markdown 格式。它们可以在 OpenCode 和 Claude Code 中自动运行（我添加了一个小型的设置脚本），并且它们也适用于任何支持技能的其他工具。 欢迎提交 PR！帮助我扩展这个工具包！:) [https://github.com/borski/travel-hacking-toolkit](https://github.com/borski/travel-hacking-toolkit)

我在构建 Autonoma (https://www.getautonoma.com) 的过程中，与许多初创公司交流，我发现预览环境是他们普遍面临的主要问题，除非他们部署在 Vercel/Netlify/Render 上。 想知道大家找到了哪些替代方案来解决这个问题。 预览环境似乎为测试和整体工程工作流程带来了巨大的优势，但配置起来并不容易，所以我们正在考虑构建一种标准化的方法来实现这一点。很想听听大家对这个话题的看法。

简而言之：我们现在才开始扩展长期的外部编排，在此之前的一切都主要是内部的问题解决训练，偶尔会调用工具。我们实际上还不知道扩展编排训练会产生什么结果。它可能会产生更好的、仍然对人类指令做出反应的工具使用助手。或者它可能会产生更具涌现自主性的东西。我的直觉告诉我，是后者。我第一次预见到在不久的将来（最早在2027-2028年）出现对齐失败的风险。 一年前，一位研究社会科学的朋友问我对2027年的人工智能以及对齐失败的人工智能接管的前景的看法。我笑了，说这几乎是不可能的，因为这项技术的实际运作方式。我告诉他，大型语言模型的工作方式太循序渐进了。有一个提示，模型预测下一个token，然后它就“死了”。提示之间没有连续性——它可以将一些文本存储在数据库中，但没有持续的推理。这感觉非常安全。 在过去几个月里，随着基于agent的开发的出现，我开始怀疑之前的理解。 第一代大型语言模型，直到GPT-4，本质上是复杂的文本自动补全器。它们接受了来自网络爬取的互联网数据的训练，并通过RLHF进行了微调，以赋予它们聊天机器人的风格。它们感觉无害，并且完全符合我给朋友的描述。它们的能力完全受限于上下文窗口和提示-回答时间窗口。提示输入，补全输出，完成。 第二代增加了推理能力。这些模型不再感觉像是纯粹的自动补全器——它们可以在其存储的知识中搜索，将想法串联起来，并解决问题。训练数据也发生了变化：成功的推理轨迹被折叠回训练中。但关键的是，它们仍然受到相同的约束。它们有更多的时间思考和处理，但在回答结束时，它们仍然大部分消失了。这种能力仍然是模型内部的。 现在进入第三代基于agent的大型语言模型，它真正起飞了，像Claude Code这样的工具变得越来越强大。这些感觉不像自动补全器。它们甚至感觉不像推理器。它们开始感觉像编排器。它们不局限于其内部——它们充当一个连接的系统，协调工具和外部因素以实现目标。 最让我害怕的是我们现在正在生成和收集的新型训练数据：成功的长期编排轨迹。它们将使我们能够扩展编排型智能。这种智能不局限于其内部。它转变为外部共生型智能。我们正在训练它们几乎将所有东西外部化。并优化它们以长时间编排所有这些外部因素。这感觉就像在优化一个共生系统，这与当今简单的内部优化的大型语言模型非常不同。这真的感觉像大型语言模型正在处理的方程式正在发生变化。大型语言模型成为外部因素的编排引擎，这些外部因素共同构成了整个系统。我们知道推理自动补全是如何扩展的，但我们不知道编排引擎是如何扩展的。我觉得可能会出现不同和新的涌现能力。我们基本上是第一次扩展大型语言模型的前额叶皮层。 我第一次真正预见到对齐失败的路径。更不用说人工智能在坏人手中可能造成的其他所有危害了。这让我质疑实验室是否应该继续沿着这条路走下去。将大型语言模型的问题解决主要保持在其自身的参数内部，难道不是更安全吗？在所有的人工智能公司中，Anthropic难道不应该对像claude code这样的系统保持低调吗？他们在这种将被扩展的新范式中加速最快。