1作者: tolopalmer6 个月前
我开发了 warp_cache,一个线程安全的 Python 缓存装饰器,由 Rust 扩展(PyO3)提供支持。它被设计为 functools.lru_cache 的即插即用替代品。 主要特点: * SIEVE 驱逐(NSDI'24)代替 LRU — 抗扫描,在真实工作负载上减少高达 21.6% 的缓存未命中 * 整个缓存查找过程在单个 Rust __call__ 中完成 — 没有 Python 包装开销 * 开箱即用的线程安全:在 GIL 下使用 GilCell,在自由线程 Python (3.13+) 下使用分片 RwLock * 通过 mmap 实现跨进程共享内存后端(跨进程 970 万次操作/秒) * 单线程 1600 万–2300 万次操作/秒,比 cachetools 快 25 倍,在多线程负载下比 lru_cache + Lock 快 1.6 倍 从 lru_cache 迁移只需一行代码: ```python -from functools import lru_cache +from warp_cache import cache -@lru_cache(maxsize=128) +@cache(max_size=128) ``` 基准测试和驱逐质量比较在仓库中。
4作者: jairooh6 个月前
最近发生的几起事件(DataTalks 数据库被 Claude Code 擦除,Replit 代理在代码冻结期间删除数据),清楚地表明,在没有可观测性的情况下在生产环境中运行 AI 代理是危险的。 我见过的常见故障模式包括:无法逐步了解代理做了什么,未追踪的 token 使用导致意外的 LLM 账单,未被发现的风险输出,以及事后分析缺乏审计追踪。 我一直在构建 AgentShield (https://useagentshield.com) — 一个用于 AI 代理的可观测性 SDK。它提供执行追踪、输出风险检测、每个代理/模型的成本跟踪,以及对高风险操作的人工审核。通过两行代码集成到 LangChain、CrewAI 和 OpenAI Agents SDK 中。 好奇大家都在用什么。自己构建监控系统?LangSmith?Langfuse?还是只是听天由命?