1 分•作者: beebeeVB•3 个月前
大家好,
随着互联网上的代理(Agent)越来越多,安全问题变得日益严峻。目前,这个问题通常通过使用大型语言模型(LLM)来监管代理来解决,但这会带来幻觉和延迟的问题。因此,我用 Rust 编写了一个防火墙,其运行时间不到五毫秒。
该防火墙通过制定计划并强制执行计划来工作。对于每个动作调用,它会利用模型上下文协议列表进行强制执行;对于序列调用,它会跟踪每一个工具调用和数据流。此外,还有一个污点机制(taint mechanism),如果代理读取了用户上下文之外的内容,就会被标记并触发更强的安全机制。整个系统通过有向无环图(DAG)来运行。