最新

一个智能体的价值与其被授予的权限成正比。 围绕诸如默认拒绝代理、密钥库等解决方案，一直存在很多炒作，但似乎没有任何东西能解决核心矛盾：智能体可能被欺骗，从而听从攻击者的指令。 我能想到的最好的办法是运行一个观察者循环，用另一个大语言模型来监控智能体所做的一切，但我很好奇是否有人有更优雅的解决方案。