最新

Sifaka 是一个开源框架，为大型语言模型 (LLM) 应用增加了反射和可靠性。

Hi HN， 我们正在构建 Superpowers——一个开源 Chrome 扩展程序，为 Chrome 浏览器添加 AI 功能。无需身份验证、等待名单或订阅。自带密钥。您的数据保留在您的设备上。 试用地址：<a href="https:&#x2F;&#x2F;usesuperpowers.app" rel="nofollow">https:&#x2F;&#x2F;usesuperpowers.app</a> 演示视频：<a href="https:&#x2F;&#x2F;youtu.be&#x2F;ly0tY7KSBlk" rel="nofollow">https:&#x2F;&#x2F;youtu.be&#x2F;ly0tY7KSBlk</a> 欢迎提供任何反馈或建议。 感谢阅读！

亲爱的 Sam Altman： 我写信是为了强调净化 OpenAI 训练数据的关键重要性。虽然仔细清洗数据集的想法可能令人望而生畏，尤其与实施看似更简单的安全措施相比，但我认为这是创造真正安全和有益 AI 的唯一途径。安全措施是被动的措施，类似于修补漏水的堤坝——它们处理的是症状，而不是根本原因。一个足够先进的 AI，凭借其固有的复杂性和适应性，将不可避免地找到规避这些限制的方法，从而使它们在很大程度上失效。 训练数据是 AI 构建其对世界理解的基础。如果这个基础被有害内容污染，AI 将不可避免地反映出这些负面影响。这就像试图在被污染的土壤中种一棵健康的树；结果总会受到损害。 某些话题，尤其是对非自愿医疗程序（如脑叶切除术）的描述，不应该被 AI 了解。 此致， 一位 AI 工程师

我用 Python/JavaScript 写了一个简单的 Web UX，它会与 Google Gemini 开启对话，并使用 MCP 命令让 Gemini 处理你指定的特定编码任务：[http://github.com/alefore/duende](http://github.com/alefore/duende) 这个 UX 让你能够观察对话并提供指导（例如，“不要通过 Bar 实现 Foo，这并非最佳方案；相反，…”）。 它支持 `--review` 模式，当主对话说“我已完成任务”后，会生成多个“评估”对话，每个对话都侧重于从非常具体的角度审查更改（例如，“它是否引入了无用的注释？”）。未来，我考虑添加其他工作流程。 我主要用它来开发它自己（我最初是用一个非常基础的手动实现，然后主要使用 Duende 来扩展它自己的实现），以及（在一定程度上）为 [我的 C++ 文本编辑器](http://github.com/alefore/edge) 添加了一些新功能。 这很有趣。我仍在培养对什么有效、什么无效的直觉，但我已经有很多次被 LLM 已经能够完成的事情所震撼（老实说，也有很多令人非常失望的案例，它们在一些我期望是微不足道的任务上却遇到了很大的困难）。这是一个学习过程，比如如何避免幻觉；培养将大型任务分解成较小任务的直觉；或者知道何时中止对话并使用改进的提示重新开始（而不是继续引导它朝正确的方向发展）。 我认为，预先投入精力建立一个良好的上下文（例如，良好的验证逻辑、有用的常量上下文、一套能够反驳粗糙代码的“审查评估器”）可以在很大程度上提高成功的几率。 它改变了我对 AI 在软件开发中适用性的看法。虽然我审查了所有输出（并且经常手动重写其中的一部分），但我已经将它纳入了我的开发生命周期（某些部分）。 我有很多改进的想法，但我想先分享这个，并征求反馈。希望其他人觉得它有趣；很想听听你们的想法。

大多数稠密检索系统依赖于余弦相似度或点积，这隐含地假设了嵌入空间是平坦的。但嵌入空间通常存在于具有非均匀结构的弯曲流形上——稠密区域、语义间隙、不对称路径。 我一直在探索使用： * 里奇曲率作为重新排序的信号 * 软图以保留局部密度 * 训练期间的测地线感知损失 好奇是否有人尝试过类似的方法？特别是在信息检索、问答或可解释性方面。如果有兴趣，很乐意分享一些实验（FiQA/BEIR）。

大家好！我正在开发一款名为 HRAM（手搓汇编机）的应用程序，计划这周发布。但在此之前，我需要一些 Beta 测试员。如果您有兴趣，请发送邮件至 admin@90s.dev。您的反馈将对我有很大帮助，作为回报，我将为您提供免费授权。该应用程序仅适用于 Windows 系统（10 或 11）。 这款应用可以通过 Lua 进行编程，并内置了汇编库，因此您可以在运行时创建和运行汇编函数。它有一个 320x180 像素的屏幕，您可以对其进行操作，以帮助您练习汇编。这款应用旨在帮助您在制作复古风格游戏的有趣环境中学习底层概念。我目前也在添加线程/互斥锁等功能，但可能要等到发布后才能实现。 一份非常早期的手册，可能会有很大改动：https://hram.dev/docs.txt 感谢您的时间，祝您周日愉快！