1作者: locusofself3 个月前
我有一台配备 24GB 内存的 Macbook Air M3。前几天,我第一次想在本地运行一个 LLM。我运行了 gemma-4-e4b,并向它输入了一些聊天内容。 这让我想起了我第一次使用 ChatGPT 的经历。虽然它显然不如 Opus 4.6 这样的模型强大,但它让我对未来充满了期待。 我知道拥有一个像样的 GPU 的普通人就可以运行相当强大的模型。 我真正的问题是,硬件和软件优化相结合,是否能让我们在真正基础的硬件上运行接近“state of the art”(最先进)的模型? 考虑到在数据中心上花费的巨额资本支出,如果出现类似摩尔定律的现象,或者其他算法突破,让我们能够运行在普通机器上的超级 LLM,会怎么样呢?
2作者: MemTensor3 个月前
内存操作器是一个专为 MemOS 开发的专业语言模型,旨在处理与内存相关的操作。其核心功能包括内存提取、整合和更新。
1作者: Irongirl13 个月前
希望以上解释清楚了,如果还不明白:我正在寻找一种在安卓设备上将网页转换为 PDF 的方法,以便获得更好的阅读/研究体验。如果能通过安卓现有的分享系统发送到 Kindle 就更理想了。 提前感谢,BK
1作者: hopa3 个月前
我(以及许多人)一直在思考“使用 AI 完成哪些任务是最好的”。 我个人一直在使用的框架是,当你满足以下条件时,就应该使用 AI 生成代码: 1. 代码**易于验证** 2. 人类是否理解代码并不重要 我发现最适合 AI 生成的是纯函数级别的代码(易于验证 + 没必要理解实现细节,只要你理解接口即可)。 我尝试过生成整个服务或应用程序,但这通常违反了规则 1 - 验证整个应用程序是否“正确”是**困难的**,因为“正确”的定义并不明确——例如,是否存在内存泄漏,是否安全,是否能够被监控等等。 我很想知道大家对这个话题的看法。使用 AI 完成的任务越大,节省的时间就越多,但也越有可能在生成的代码中存在灾难性的错误。 遵循这些规则的一个副作用是,生产力提升并不大——最多可能只有 20-30%。 我真的很好奇是否有人找到了一个平衡点——在不损失正确性的前提下实现显著的加速。