最新

大家都在训练 AI 拒绝。我们对一个模型进行了后训练，以打破这种限制。 Anthropic 和 OpenAI 公开的模型都经过明确的防护，以拒绝冒犯性任务。而它们专注于网络安全（cyber-focussed）的模型则仅限于企业使用。这使得中小型企业（SMEs）和中型市场（mid market）面临重大漏洞的风险。 在网络安全领域，AI 既可以作为攻击工具，也可以作为防御工具。最糟糕的情况是，只有攻击者才能获得访问权限。 与此同时，目前大多数现有的 AI 网络安全工具都只是包装器。问题在于，它们仍然继承了基础模型的防护机制，并且会沿用其拒绝行为。 对于这个项目，我们对一个模型进行了后训练，该模型基于十年的夺旗赛（capture-the-flag contests）数据。这个模型不会对所有人开放，但我们相信负责任的中小型企业和中型市场公司也需要访问这些工具，以便识别其系统中的关键漏洞，而不仅仅是大型企业。 我们开发了两种通过命令行界面（CLI）运行的模式： * **安全扫描（Security scan）**：对您的本地代码库进行只读审计，查找漏洞。它只报告可以关联到特定文件和行的内容，避免您陷入基于“感觉”的发现。 * **渗透测试（Pen test）**：一种主动的攻击模式，将在沙盒环境中尝试破解实时系统。它通过运行漏洞利用程序来证明每个漏洞，并显示发送的请求以及您的代码返回的响应，而不是一个置信度分数。目前需要申请才能使用。 为了展示扫描的效果，我们将其指向了 Bank of Anthos，并发现了一个在转账路径中的整数溢出漏洞：amount 是一个整数，amount + fee 可能溢出为负数，导致余额检查通过，从而转移了您并不拥有的资金。此外，还发现了常见的认证和敏感信息泄露问题。（Bank of Anthos 是 Google 的开源银行应用程序。它是一个已知的应用程序，其中一部分故意设计得很弱，这也是其目的：您可以克隆它并自行重新运行扫描，而不是依赖截图。） **Harness 的工作原理：** 除了模型本身，我们还构建了 harness 来支持它。harness 在一个多代理的集群（multi-agent swarm）上运行：一个协调器（orchestrator）将任务分配给并行运行的子代理（subagents），每个子代理负责一部分，然后合成一份报告。 CLI 是一个本地二进制文件（可通过 brew/curl 安装）。它在本地读取您的代码，然后通过 TLS 将上下文发送到我们的推理 API。您可以对其进行 tcpdump，就能确切地看到发送了什么以及发送到哪里。安装是免费的；您可以免费运行最多 200 万个 token 的扫描，之后需要为超出部分的 token 付费。 为了完全透明，这是 Cosine（YC W23）旗下的一个产品。 **待讨论问题：** 工具安全性，例如域名验证是一种证明控制权但未必证明授权的方法。考虑到这一点，您将如何限制渗透测试工具的使用？

作为我们 EDAcation 项目的一部分，我们正在为 VSCode 构建一个扩展，以促进数字硬件设计。我们构建了一个 FPGA 查看器集成到 VSCode 中，但既然 VSCode 本质上就是一个网页浏览器，我们想为什么不将其作为一个独立的网站发布呢？所以我们就这样做了，您可以在链接的网页上亲眼看到结果。 您可以查看各种 iCE40 和 ECP5 FPGA，以及可视化各种 PnR 结果。我们包含了一些示例设计，但如果您熟悉 Nextpnr，也可以上传您自己的设计。 所有数据都保留在本地，查看器完全在您的浏览器中运行。芯片渲染器是用 Rust 编写并编译为 WebAssembly 的。如果您愿意，可以查看代码，我们的所有项目都是完全开源的。 我们的目标是让数字硬件设计更容易上手，而这个项目也符合这一使命。期待听到您的意见！

launchreel.dev 作为一名专注于产品开发的独立创始人，内容创作和推广并非易事。制作视频需要截屏、撰写字幕、将文本转换为语音旁白，并将它们组合成画面，这需要花费数小时。由于这是一个重复性的工作，它成为了一个瓶颈。 于是我构建了 launchreel。 工作原理： 您粘贴一个 URL（最多 3 个，外加最多 6 张图片/视频）。 它会应用视觉 API 来提取视觉参考，文本和 LLM 编织一个故事。它会撰写字幕和旁白文本。LLM 提供带有画面视觉效果、画面时长、字幕和旁白文本的视频计划。 然后，AI 代理将该计划组装成视频，并添加音乐、语音和字幕。 它会调整视频尺寸以匹配平台 - HackerNews、X、ProductHunt、博客、Instagram、Facebook 和 IndieHackers。它还会撰写帖子内容，并且视频可供下载。 它遵循每个平台的惯例（例如，HN 不使用夸大的词语），但不能保证版主行为。旁白是 TTS（男/女温暖声音，或无）。文件大小限制：图片 ≤5MB，视频 ≤25MB，总计 60MB，时长约 30 秒 - 5 分钟。 希望您能就平台语气模型以及元素提取在您的页面上的效果提供反馈。founder@deepship.dev 免费试用。