1 分•作者: spps11•大约 1 个月前
我在我的 AI 应用后端大量使用了 ARQ。我喜欢它设置的简单性(只需插入 Redis 即可),并用它来管理长时间运行的异步 LLM 生成任务。这种简单性的代价是它没有提供开箱即用的真正监控方案。所以,这里有一个简单的工具可以解决这个问题。
Web 仪表盘:
docker run --rm -p 8000:8000 -e ARQ_DASHBOARD_REDIS_URL=redis://localhost:6379 ghcr.io/srijanpatel/arq-dashboard
TUI(终端用户界面):
docker run --rm -it -e ARQ_DASHBOARD_REDIS_URL=redis://localhost:6379 ghcr.io/srijanpatel/arq-dashboard tui
显示每个函数的运行时百分位数(p50/p95/p99)、成功率、吞吐量(作业/分钟)、运行时分布图,以及从排队到完成的视觉作业时间线。
如果你正在使用 ARQ,并且对你的 worker 正在做什么一无所知,这可能会有所帮助。最初是从 ninoseki/arq-dashboard fork 出来的,并使用稍微现代化的技术栈(FastAPI + Vue 3 + Textual)进行了重写,增加了更多统计数据和一个 TUI。