2 分•作者: psychedare•6 个月前
返回首页
最新
1 分•作者: gzoo•6 个月前
1 分•作者: medbar•6 个月前
2 分•作者: doener•6 个月前
2 分•作者: chrillemn•6 个月前
2 分•作者: thepaulthomson•6 个月前
89 分•作者: wslh•6 个月前
1 分•作者: bookofjoe•6 个月前
1 分•作者: rcarmo•6 个月前
1 分•作者: tolopalmer•6 个月前
我开发了 warp_cache,一个线程安全的 Python 缓存装饰器,由 Rust 扩展(PyO3)提供支持。它被设计为 functools.lru_cache 的即插即用替代品。
主要特点:
* SIEVE 驱逐(NSDI'24)代替 LRU — 抗扫描,在真实工作负载上减少高达 21.6% 的缓存未命中
* 整个缓存查找过程在单个 Rust __call__ 中完成 — 没有 Python 包装开销
* 开箱即用的线程安全:在 GIL 下使用 GilCell,在自由线程 Python (3.13+) 下使用分片 RwLock
* 通过 mmap 实现跨进程共享内存后端(跨进程 970 万次操作/秒)
* 单线程 1600 万–2300 万次操作/秒,比 cachetools 快 25 倍,在多线程负载下比 lru_cache + Lock 快 1.6 倍
从 lru_cache 迁移只需一行代码:
```python
-from functools import lru_cache
+from warp_cache import cache
-@lru_cache(maxsize=128)
+@cache(max_size=128)
```
基准测试和驱逐质量比较在仓库中。
1 分•作者: shadowAuror•6 个月前
2 分•作者: rawgabbit•6 个月前
1 分•作者: delichon•6 个月前
1 分•作者: sheepscreek•6 个月前
1 分•作者: Zepubo•6 个月前
2 分•作者: RickJWagner•6 个月前
1 分•作者: anmolnagpal•6 个月前
5 分•作者: Kye•6 个月前
4 分•作者: jairooh•6 个月前
最近发生的几起事件(DataTalks 数据库被 Claude Code 擦除,Replit 代理在代码冻结期间删除数据),清楚地表明,在没有可观测性的情况下在生产环境中运行 AI 代理是危险的。
我见过的常见故障模式包括:无法逐步了解代理做了什么,未追踪的 token 使用导致意外的 LLM 账单,未被发现的风险输出,以及事后分析缺乏审计追踪。
我一直在构建 AgentShield (https://useagentshield.com) — 一个用于 AI 代理的可观测性 SDK。它提供执行追踪、输出风险检测、每个代理/模型的成本跟踪,以及对高风险操作的人工审核。通过两行代码集成到 LangChain、CrewAI 和 OpenAI Agents SDK 中。
好奇大家都在用什么。自己构建监控系统?LangSmith?Langfuse?还是只是听天由命?
1 分•作者: sylvinus•6 个月前