1作者: tolopalmer6 个月前
我开发了 warp_cache,一个线程安全的 Python 缓存装饰器,由 Rust 扩展(PyO3)提供支持。它被设计为 functools.lru_cache 的即插即用替代品。 主要特点: * SIEVE 驱逐(NSDI'24)代替 LRU — 抗扫描,在真实工作负载上减少高达 21.6% 的缓存未命中 * 整个缓存查找过程在单个 Rust __call__ 中完成 — 没有 Python 包装开销 * 开箱即用的线程安全:在 GIL 下使用 GilCell,在自由线程 Python (3.13+) 下使用分片 RwLock * 通过 mmap 实现跨进程共享内存后端(跨进程 970 万次操作/秒) * 单线程 1600 万–2300 万次操作/秒,比 cachetools 快 25 倍,在多线程负载下比 lru_cache + Lock 快 1.6 倍 从 lru_cache 迁移只需一行代码: ```python -from functools import lru_cache +from warp_cache import cache -@lru_cache(maxsize=128) +@cache(max_size=128) ``` 基准测试和驱逐质量比较在仓库中。
4作者: jairooh6 个月前
最近发生的几起事件(DataTalks 数据库被 Claude Code 擦除,Replit 代理在代码冻结期间删除数据),清楚地表明,在没有可观测性的情况下在生产环境中运行 AI 代理是危险的。 我见过的常见故障模式包括:无法逐步了解代理做了什么,未追踪的 token 使用导致意外的 LLM 账单,未被发现的风险输出,以及事后分析缺乏审计追踪。 我一直在构建 AgentShield (https://useagentshield.com) — 一个用于 AI 代理的可观测性 SDK。它提供执行追踪、输出风险检测、每个代理/模型的成本跟踪,以及对高风险操作的人工审核。通过两行代码集成到 LangChain、CrewAI 和 OpenAI Agents SDK 中。 好奇大家都在用什么。自己构建监控系统?LangSmith?Langfuse?还是只是听天由命?
1作者: ahlCVA6 个月前
1作者: cunningfatalist6 个月前
你好,HN :) Promptinel 是一个针对提示词的安全扫描器。我认为世界需要这样的东西,因为提示词本质上是可执行的工件,我们需要像对待它们一样对待提示词。我希望在提示词到达运行时之前,尽可能多地识别出坏的东西。尤其是在为朋友或同事提供通用提示词库,或者从互联网上下载技能时。你可以在项目的自述文件中阅读更多关于我的动机:<a href="https:&#x2F;&#x2F;github.com&#x2F;CunningFatalist&#x2F;promptinel?tab=readme-ov-file#motivation" rel="nofollow">https:&#x2F;&#x2F;github.com&#x2F;CunningFatalist&#x2F;promptinel?tab=readme-ov-...</a> Promptinel 在提示词中发现了各种攻击模式,例如: - 提示词覆盖和角色欺骗模式 - 下载并执行链 - 模板执行和网络获取行为 - 窃取机密信息的意图 - 不可见的 Unicode 和混淆技巧 - 本地敏感文件引用 我非常期待那些之前构建过代码检查器或安全扫描器的人的反馈。或者,也欢迎来自 Go 程序员的反馈。我主要是一名 PHP 和 TypeScript 开发者,在空闲时间使用 Go,因为我觉得它很有趣,并且喜欢它背后的哲学。