1 分•作者: saivishwak•7 个月前
嗨,各位 HN 用户,
大约五个月前,我开始认真思考我们如何运行智能体——以及最终用户在隐私、数据和计算方面实际上有多少控制权。在本地运行 LLM 对于重写电子邮件或回答基本问题来说很棒,但它并没有给你真正的自主权。真正赋予你力量的是运行功能齐全的本地智能体的能力,这些智能体能够进行深度研究、编码、推理和工具使用——所有这些都不需要将数据发送到外部服务。
考虑到这个愿景,我启动了一个开源项目(MIT + Apache-2 许可),旨在使构建和运行智能体变得模块化、可定制且对硬件友好。智能体堆栈的每个组件都可以互换:
* **记忆:** 插入你自己的记忆后端
* **LLM 层:** 可互换地使用本地模型或云 API
* **执行方式:** 在 ReAct、CoT 或你自己的自定义执行器之间选择
目标是在保持强大性能和对开发者友好的可用性的同时,实现真正的研究工作流程。
该项目也不仅仅止步于构建智能体——我们希望确保你可以在任何加速硬件上高效地运行它们,从 GPU 到边缘设备。
非常期待 HN 社区的反馈!