2作者: himalayangiant10 个月前
标题:我为人工智能构建了经济安全机制 - 寻求反馈 我实现了声誉流通标准(RCS),它使用指数衰减(类似于放射性衰变)来使有害的人工智能行为在经济上变得不合理。 关键见解:与其试图控制人工智能,不如创造一个环境,让有益行为成为唯一的稳定策略。权力积累在数学上变得不可能。 技术细节: - 用于声誉流通的智能合约 - 用于检测差异的共识算法 - 性能开销低于5% - 随智能水平扩展 纳西姆·塔勒布(Nassim Taleb)认可了这种方法。已经为Animoca Brands的Moca链实施了一个更简单的版本,用于链上声誉记录。 现在正在筹集资金,以便在GPT-5发布之前将其部署在人工智能实验室:<a href="https:&#x2F;&#x2F;manifund.org&#x2F;projects&#x2F;preventing-ai-catastrophe-through-economic-mechanisms---rcs-" rel="nofollow">https:&#x2F;&#x2F;manifund.org&#x2F;projects&#x2F;preventing-ai-catastrophe-thro...</a> 论文:[SSRN即将发布] <a href="https:&#x2F;&#x2F;deepthinker.xyz" rel="nofollow">https:&#x2F;&#x2F;deepthinker.xyz</a>上有论文。 演示版本可在保密协议(NDA)下提供。 非常欢迎来自社区的技术反馈。
2作者: fzliu10 个月前