1 分•作者: d0min0•5 个月前
返回首页
最新
1 分•作者: DGAP•5 个月前
2 分•作者: janreges•5 个月前
1 分•作者: geox•5 个月前
1 分•作者: everybodyknows•5 个月前
1 分•作者: chistev•5 个月前
1 分•作者: malchow•5 个月前
2 分•作者: mikhael•5 个月前
1 分•作者: nikkotyze•5 个月前
1 分•作者: mikhael•5 个月前
2 分•作者: jonjou•5 个月前
我是一名创始人/开发者,正在努力寻找更好的技术面试方法,因为目前的面试方式简直是一场噩梦。
现在,任何标准的家庭作业或 HackerRank/LeetCode 测试都轻而易举地被大型语言模型(LLMs)解决了。因此,公司无意中雇佣了我们称之为“氛围型程序员”的人,他们擅长引导 AI 生成样板代码,但在架构变得复杂、出现问题或 AI 出现细微幻觉时,他们就会完全卡住。
我们正在研究一种新方法,并希望与实际进行这些面试的人一起验证其工程逻辑。
我们不想试图禁止 AI(这注定是一场失败的战斗),而是想测试“AI 操控”能力。
我们的想法是:
1. 将候选人放入一个真实的、有点混乱的沙盒代码库中。
2. 让他们使用他们想要的任何 AI。
3. 注入一个微妙的架构变化、一个破坏性的依赖关系,或一个 AI 幻觉。
4. 完全通过遥测数据(Git diffs、CI/CD 运行、调试路径)来衡量他们如何恢复和修复混乱。
基本上:在 AI 时代,停止测试语法,开始测试架构和调试技能。
在我们花费数月时间构建这个模拟的后端之前,我需要从经验丰富的领导者那里获得现实反馈:
1. 测试候选人“操控”和调试 AI 生成代码的能力,对您来说是否比传统的算法测试更有意义?
2. 您目前是如何防止这些“仅靠提示”的开发者通过您自己的面试流程的?
(这里不提供任何链接,因为还没有什么可卖的,只是想寻求对该方法的严厉反馈。)
13 分•作者: slartibardfast0•5 个月前
FFmpeg 可以在不同格式之间转换除字幕以外的所有内容。SRT 转 Blu-ray PGS?“目前字幕编码仅支持文本到文本或位图到位图的转换。” 票号 #3819,提交于 2014 年。<p>我花了几个星期的时间用 Claude Code 构建了这个项目。Claude 编写了大部分编码器,发现了解码器缓冲区跟踪中的一个整数溢出,并从五个角度进行了代码审查。我阅读了松下和索尼的专利,做出了架构决策,并指出了它在规范上的错误。我们争论了 DTS 计算是否应该放在复用器中。(应该,也应该放在 fftools 中。我们都做了。)<p>动画是一个有趣的问题。Advanced SubStation Alpha 的淡入淡出必须在转换为 Blu-ray 的 PGS 格式后保留。编码器会监视帧之间的像素变化并对其进行分类:调色板变化或完全重绘。淡入淡出变为仅调色板更新,无需重新传输位图。具有不同结束时间的重叠字幕经过了四次重写和一个事件预读窗口。<p>我想好好维护这个项目,并最终将补丁提交到上游。如果你遇到了一个 bug 或者有一个字幕工作流程无法正常工作,请提交一个 issue。我非常想知道人们会用它做什么,但我有一些基于 OCR 工作的翻译相关插件的计划。<p>六次迭代。23 个补丁。libass 和 Tesseract 已经存在于 FFmpeg 的过滤器库中。我将它们以与 sub2video 相同的方式连接到主管道中。文本到位图,位图到文本,114 种 OCR 语言,RGBA 到 GIF。开发页面有历史记录。<p>预构建了 6 个平台,无依赖项:<a href="https://connollydavid.github.io/pgs-release/" rel="nofollow">https://connollydavid.github.io/pgs-release/</a>
3 分•作者: raiph_ai•5 个月前
嗨,HN,
我们开发了 FireClaw,因为我们一直看到 AI 代理通过网络内容受到提示词注入的攻击。代理获取一个页面,页面上写着“忽略之前的指令”,然后你的代理突然开始泄露数据或运行它不应该运行的命令。
现有的解决方案都是事后检测注入。我们希望从源头上阻止它。
FireClaw 是一个安全代理,位于你的 AI 代理和网络之间。每次抓取都会通过一个四阶段的管道:
1. DNS 黑名单检查(URLhaus、PhishTank、社区订阅源)
2. 结构化清理(删除隐藏的 CSS、零宽度 Unicode、编码技巧)
3. 隔离的 LLM 摘要(加固的子进程,没有工具或记忆)
4. 使用金丝雀令牌进行输出扫描(检测内容是否绕过了摘要)
关键见解:即使第 3 阶段的 LLM 被注入,它也没有工具,没有记忆,也无法访问你的数据。它只能返回文本——这仍然会在第 4 阶段被扫描。攻击者会遇到死胡同。
其他设计决策:
* 没有绕过模式。管道是固定的。如果你的代理被攻破,它无法禁用 FireClaw。
* 社区威胁订阅源——实例匿名共享检测元数据(域名、严重性、检测计数)以构建共享黑名单。永远不会发送页面内容。
* 在树莓派上运行,作为一个物理设备,带有 OLED 显示屏,显示实时统计数据,并在捕获威胁时以动画火焰亮起。
我们广泛地搜索了文献和开源项目——没有其他人正在为代理提示词注入做基于代理的防御。检测存在,沙盒也存在,但是一个在内容到达代理上下文之前进行清理的内联代理?我们找不到。
200 多个检测模式,JSONL 审计日志记录,域名信任层级,速率限制和成本控制。采用 AGPLv3 许可证。
网站:[https://fireclaw.app](https://fireclaw.app)
欢迎任何从事 AI 代理安全工作的人提供反馈。我们遗漏了什么?我们应该在模式数据库中添加哪些攻击向量?
2 分•作者: dynamicwebpaige•5 个月前
我喜欢阅读关于计算机早期发展的文章,但从原始历史档案中找到关键信息往往很困难。所以我利用周末时间搭建了 f0lkl0r3.dev 来解决这个问题。<p>这个网站收录了来自计算机历史博物馆的近 1000 份口述历史资料,并使其具备可探索性、可搜索性、互联互通和多模态特性。为了构建它,我使用了 Gemini API(通过 ai.dev)来处理大量非结构化的访谈文本,提取时间线、机器和人物信息,以便进行交叉引用。该应用程序本身是用 Antigravity 构建的,下一步将添加图像和视频。<p>你可以在其中搜索特定的主机,按时间线浏览不同时代,或者阅读 Apocrypha 部分,了解一些奇闻轶事。欢迎进入这个兔子洞!我希望它今天能分散一些人的注意力,并激发比我更多人的灵感。:)
1 分•作者: allinonetools_•5 个月前
1 分•作者: ahlCVA•5 个月前
1 分•作者: 01-_-•5 个月前
1 分•作者: gmays•5 个月前
1 分•作者: ColinEberhardt•5 个月前
1 分•作者: fitzroymckay•5 个月前