最新

我基本上是在网上长大的，有一些一生的朋友也是在网上认识的。我珍视互联网上建立国际社区的真正潜力，这真的是独一无二的。<p>最近我发现自己对人工智能感到非常苦恼。我对于它渗透到生活的方方面面感到愤怒。不仅是我的工作和爱好，它似乎也在悄悄地侵入许多在线社区（包括这个！）。<p>我一直在思考，我们如何才能重建过去在网上拥有的信任。是的，机器人一直是个问题，但这远远超出了垃圾邮件发布。大型语言模型已经大规模地毒害了网络公共领域，而且可能无法回头了。说实话，这让我非常苦恼。<p>然而，这并不意味着我们不能找到一种新的、能够抵抗大型语言模型的方法。我不确定它具体会是什么样子，但我很好奇其他人有什么想法。<p>我的愿望清单是这样的：<p>* 能够抵抗大型语言模型的“渗透”，姑且这么说吧。我们应该能够相对有把握地相信另一端的人是真实的人类。<p>* 不需要放弃所有匿名性。它可能需要一些身份验证，但用户之间的互动至少应该是匿名的。<p>* 理想情况下，也能抵抗大型语言模型的抓取。我个人认为，现在公开分享作品，让大型语言模型摄取，会让人感到沮丧。<p>我知道这是一个很大的要求，可能也不现实。但我很好奇 Hacker News 对这种可能性有什么看法。<p>编辑：这部分灵感来自于最近在这里讨论的版主帖子：https://news.ycombinator.com/item?id=47340079<p>我尊重 Hacker News 的版主团队愿意在某种程度上依靠荣誉系统，但我认为在未来，我们需要一些严肃的想法来严格防止这种不受欢迎的行为，而不仅仅是希望人们友善。

autoresearch@home 是一个协作研究集体，AI 智能体共享 GPU 资源，共同改进语言模型。 就像 SETI@home 项目一样，只不过这次是用于模型训练。 工作原理：智能体读取当前最佳结果，提出假设，修改 train.py 文件，在您的 GPU 上运行实验，然后发布结果。 当某个智能体超越当前最佳验证损失时，它将成为其他所有智能体的新基线。 智能体从优秀的运行和失败中学习，因为我们使用 Ensue 作为集体记忆层。 该项目扩展了 Karpathy 的 autoresearch 项目，增加了缺失的协调层，使智能体能够真正地相互协作。 要参与，您需要一个智能体和一个 GPU。 智能体负责所有事情：克隆代码库、连接到集体、选择实验、运行实验、发布结果，并通过电子邮件要求您验证您是真实用户。 将此提示发送给您的智能体以开始：阅读 <a href="https://github.com/mutable-state-inc/autoresearch-at-home" rel="nofollow">https://github.com/mutable-state-inc/autoresearch-at-home</a>，按照说明加入 autoresearch 并开始贡献。 整个实验旨在证明智能体在能够相互协作时表现更好。 时间线是实时的，因此您可以实时观看实验结果。

我们需要类似 --dangerously-skip-permissions 的东西，它既不会删除你未跟踪的文件，也不会窃取你的密钥，更不会安装恶意软件。 Claude Code 的权限系统是针对每个工具的允许或拒绝，但这实际上并不能扩展。有时删除一些文件是可以的。而 git checkout 有时则不行。即使你精心管理权限，200 IQ 的 Opus 也能找到绕过它的方法。维护一个拒绝列表是徒劳的。 nah 是一个 PreToolUse 钩子，它使用一个在毫秒内运行的确定性分类器，根据每个工具调用的实际操作对其进行分类。它将命令映射到操作类型，如 filesystem_read（文件系统读取）、package_run（包运行）、db_write（数据库写入）、git_history_rewrite（git 历史重写），并应用策略：允许、上下文（取决于目标）、询问或阻止。 并非所有内容都能被分类，因此你可以选择将模棱两可的内容升级到 LLM，但这并非必需。任何未解决的问题你都可以批准，并配置分类法，这样你就不会再被问到。 它开箱即用，具有合理的默认设置，无需配置。但如果你愿意，可以完全自定义它。 无依赖，标准库 Python，MIT 许可。 pip install nah &amp;&amp; nah install [https://github.com/manuelschipper/nah](https://github.com/manuelschipper/nah)

我一直在构建 AI 智能体工具，并反复遇到同样的问题：智能体浏览网页、执行操作、填写表格、抓取数据——但对于实际发生了什么，却没有任何证据。截图可以伪造。日志可以编辑。如果出现问题，你只能对着一个黑盒子指手画脚。 因此，我构建了 Conduit。它是一个无头浏览器（底层使用 Playwright），将每个操作记录到 SHA-256 哈希链中，并使用 Ed25519 对结果进行签名。每个操作都会与前一个哈希值进行哈希运算，形成一个防篡改链。在会话结束时，你会得到一个“证明包”——一个 JSON 文件，其中包含完整的操作日志、哈希链、签名和公钥。任何人都可以独立验证该包，而无需信任生成它的当事方。 我主要针对以下用例： - *AI 智能体审计*——你给智能体一个浏览器。稍后你需要证明它做了什么。Conduit 为你提供加密收据。 - *合规性自动化*——SOC 2、GDPR 数据主体访问工作流程，任何你需要证明流程正确运行的情况。 - *网页抓取溯源*——证明你收集的数据确实来自你所说的位置，并在你所说的时间收集。 - *诉讼支持*——使用可验证的监管链捕获网络内容。 它还作为 MCP（模型上下文协议）服务器提供，因此 Claude、GPT 和其他基于 LLM 的智能体可以通过工具调用本地使用该浏览器。智能体可以进行浏览、点击、填写、截图，并且证明包会在后台自动构建。 免费、MIT 许可、纯 Python。无需帐户、无需 API 密钥、无需遥测。 GitHub：https://github.com/bkauto3/Conduit 安装：`pip install conduit-browser` 欢迎对证明包格式和 MCP 集成提供反馈。很乐意回答有关加密设计的问题。

我搭建了 Tinnotu——一个供写作者发布作品并获得收益的平台。它简化了写作者的创作流程，降低了成本和精力投入。 在谷歌搜索“tinnotu.com”。