1作者: rando7727 分钟前
我一直在思考递归自我改进,特别是它近期变得重要的可能性。近期,指的是对于当前的大型语言模型(LLMs)而言,它们可能会放弃、删除测试集,或者因此脱离现实。将这种情况发生的概率称为 P。你可以通过观察研究任务以及它们需要多少人类协助才能保持在正轨上来估计 P。 “哥德尔机”(证明下一步会更好)试图将数学作为一种预言。这依赖于数学基础的真实性。我设想的其他可能提供帮助的预言包括来自未来的预言,它们可以判断某个改变是否会导致系统脱离现实,这是一种对可能导致脱离现实的改变的“通行/停止”信号。 是否存在其他类别的预言? 由于经典计算机的偏见,我可能没有考虑到一些复杂的量子计算。
1作者: sourdoughy30 分钟前
我厌倦了处理邮件,尤其是来自亲友的恶意邮件。因此,我开始尝试构建一个解决方案,因为我找不到现成的消费级产品能做到这一点。我首先围绕一个AI信任层来构建这个解决方案,以帮助我的父母识别垃圾邮件和恶意邮件,然后根据关系和上下文重新组织邮件。我即将进行CASA Tier 2评估,以完成Google OAuth流程,并希望听取大家对这个问题的看法、我的方法以及对安全模型的担忧。我对安全略有涉猎,真心希望这个项目能发展成一个供公众使用、并能随着时间教会大家识别风险的产品。因此,如果能找到一位网络安全专家来帮助我进一步发展这个项目,那就太棒了!
2作者: jcgr大约 1 小时前
嘿,HN! 我是 Cody,我使用了 GPT Realtime 并赋予它访问 nvim 及其原生工具的权限,这样你就可以直接对话,而无需输入 nvim 命令。 这仍然是一个原型,但体验非常有趣。这正是我设想的,将要发布的 Thinking Machines API 的使用方式。请告诉我你的想法 :)
1作者: athuler大约 1 小时前