最新

大家好， 我开发了 OpenGraviton，一个开源的 AI 推理引擎，旨在挑战在消费级硬件上运行超大型 LLM 的极限。通过结合 1.58 位三元量化、基于 Top-K 剪枝的动态稀疏性、MoE 路由以及基于 mmap 的层流技术，OpenGraviton 能够运行远大于系统 RAM 的模型——即使在 Mac Mini 上也能实现。 初步基准测试结果： * TinyLlama-1.1B 从大约 2GB（FP16）降至大约 0.24GB（使用三元量化）。 * 在 1400 亿参数规模下，通常需要大约 280GB 的模型，现在压缩到大约 35GB。 * 针对 Apple Silicon 进行了优化，采用 Metal + C++ 张量解包，以及用于加速生成的推测解码。 可以在这里查看基准测试结果、架构和详细信息：<https://opengraviton.github.io> GitHub：<https://github.com/opengraviton> 这个项目的意义不仅仅在于将庞大的模型压缩到小型硬件上——更在于实现无需云成本即可访问巨型 LLM 的民主化。欢迎提供反馈、Fork 和想法！

主导框架是“人类英雄，五角大楼恶棍”。我认为情况更为复杂，有三件事被低估了。 ``` 1. 法规的法律定义中包含“对手”。 ``` 美国法典第 10 编 § 3252 将“供应链风险”定义为“对手可能破坏、恶意引入不必要的功能或以其他方式颠覆”国家安全系统所带来的风险。这个词至关重要——该法规是为与中国共产党有关联的供应商和外国破坏者设计的，而不是为了与美国公司之间的合同纠纷，这些公司自愿放弃数亿美元的收入以切断与中国共产党有关联的客户。这种指定不仅在政治上是前所未有的，而且考虑到法规本身的框架，在文本上也很奇怪。 ``` 2. Anthropic 的法律挑战比报道的范围更窄。 ``` § 3252(c)(1) 包含一项不得司法审查的条款：“不得对任何行为……在政府问责局或任何联邦法院提起投标抗议进行审查。” Anthropic 的法律团队知道这一点——他们的挑战将不得不在宪法或《行政程序法》的基础上进行，而不是标准的投标抗议。这是一条更艰难的道路。“我们将在法庭上见”的说法在一定程度上误导了人们对他们实际可用的东西的看法。 ``` 3. 民主合法性问题是双向的。 ``` 大多数报道都将 Anthropic 的两次拒绝（不使用完全自主的武器，不进行大规模国内监视）视为完全正确。它们很可能确实是正确的。但“哪些人工智能系统足够可靠以做出目标决策”原则上是一个应该由民选官员和军事指挥官来决定的问题——而不是一个私营公司的首席执行官。Dario Amodei 并非民选。他的立场是可以辩护的；但它并非自动具有权威性。 这与苹果/联邦调查局的 iPhone 案也不同。苹果被要求解锁现有功能。而国防部则要求 Anthropic 允许在任何现有合同中没有的新用途——是一种扩展，而不是解锁。 《国防生产法》的威胁让我真正感到担忧。使用战时征用权力来强迫移除人工智能安全防护措施是一种不同类型的权力运作，没有明确的先例。 一个已确认的事实让整个事情变得荒谬： 据报道，美国中央司令部在宣布供应链风险指定后的几小时内，在伊朗空袭期间使用了 Claude。被指定的“供应链风险”正在实时运行国家安全行动。 更难的问题是，应该用什么框架来管理私营人工智能公司以道德为由拒绝政府合同的行为，这个问题没有人认真对待。这并非因为答案显而易见，而是因为它需要思考一种不适合现有法律或政治类别的企业良知。

每个 MCP 服务器在每个回合都会将其完整的工具模式注入到上下文中——即使模型不使用它们，30 个工具每回合也会消耗大约 3,600 个 token。如果使用 120 个工具，在 25 个回合中，仅模式就需要 362,000 个 token。 mcp2cli 在运行时将任何 MCP 服务器或 OpenAPI 规范转换为 CLI。LLM 按需发现工具： ``` mcp2cli --mcp https://mcp.example.com/sse --list # ~16 个 token/工具 mcp2cli --mcp https://mcp.example.com/sse create-task --help # ~120 个 token，一次 mcp2cli --mcp https://mcp.example.com/sse create-task --title "修复错误" ``` 当服务器更改时，无需代码生成，也无需重建。适用于任何 LLM——它只是模型调用的一个 CLI。它还使用相同的接口处理 OpenAPI 规范（JSON/YAML，本地或远程）。 节省 token 是真实的，使用 cl100k_base 测量：30 个工具在 15 个回合中节省 96%，120 个工具在 25 个回合中节省 99%。 它还作为 AI 编码代理（Claude Code、Cursor、Codex）的可安装技能提供：`npx skills add knowsuchagency/mcp2cli --skill mcp2cli` 灵感来自 Kagan Yilmaz 的 CLI 与 MCP 分析和 CLIHub。 [https://github.com/knowsuchagency/mcp2cli](https://github.com/knowsuchagency/mcp2cli)

创建新会话并分离，命名为 "all"；设置会话 "all" 的鼠标模式为开启；设置会话 "all" 的 destroy-unattached 选项为关闭，并将标准输出和标准错误重定向到 /dev/null；对于所有会话（除了 "all"），将其所有窗口链接到 "all" 会话；最后，附加到 "all" 会话。

Rainy Updates 最初是一个针对 Node 单体仓库和 CI 的确定性依赖审查工具。 在 v0.7.0 版本中，它扩展到跨堆栈供应链审查和本地工作流程、CI 门禁以及 MCP 兼容代理的认证策略检查。 本次发布新增： * 针对 Docker、GitHub Actions、Terraform 和 Helm 的跨堆栈扫描 * 使用 riskLevel（风险等级）、policyAction（策略操作）和 recommendedAction（推荐操作）进行规范化结果呈现 * 通过确定性裁决（允许、审查或阻止）进行认证验证 * 用于供应链和认证工作流程的非变异 MCP 工具 目标是使软件变更审查在依赖关系、供应链风险敞口和发布信任状态方面更具确定性。 欢迎提供以下反馈： * 这是否感觉与 PR 优先的依赖自动化有显著不同？ * 在实际 CI 使用中还缺少什么？ * 本地/MCP 审查模型是否真的有用？

https://github.com/ruvnet/RuView 31000颗星，本月GitHub热门项目。发布这样的项目似乎具有突破性，但几乎没有任何在线讨论。 除了作者之外，没有人验证过它是否有效，尽管它只需要8美元的硬件。没有X平台讨论、YouTube视频或Reddit帖子。GitHub上的问题正在被作者关闭。 它是如何登上榜首的？他们到底想实现什么？推销ESP32-S3开发板？如果有人尝试在本地运行它，代码中是否存在攻击载体？ 有没有人手头有ESP32开发板可以试一下？

我创建 SocialProof 的初衷是发现大多数自由职业者和小机构都有很多满意的客户，但网站上却几乎没有书面推荐——因为索要推荐很尴尬，而且后续跟进的成功率也很低。<p>SocialProof 为你提供一个可分享的链接。你把它发给客户，他们填写一个简短的表格（姓名、文本、可选照片），你在仪表盘中批准后，它就会出现在你嵌入小部件的任何页面上。<p>客户提交推荐时无需登录。收集表单是开放的——你可以在这里尝试提交一个：<a href="https:&#x2F;&#x2F;socialproof.dev&#x2F;c&#x2F;frm_iOEPvPH9TzPypGMFNhYPV" rel="nofollow">https:&#x2F;&#x2F;socialproof.dev&#x2F;c&#x2F;frm_iOEPvPH9TzPypGMFNhYPV</a><p>技术栈：Cloudflare Workers + D1 + Pages，React 前端。免费开始，付费计划适用于多个小部件。<p>很乐意回答关于技术决策或问题领域的任何问题。