最新

我一直想做一个可视化项目，将光速缩减到人类的速度，这样我们就能通过日常物体直观地理解相对论效应。这是它的第一个版本！

“两家公司都没有负责任地行事。它们正朝着自我改进的超级智能狂奔，拿我们的生命冒险。” 你可能昨天看到了来自 Anthropic 研究员 Jacob Coxon 的类似帖子，他因担心人工智能可能导致灭绝事件而辞职抗议。这些是我看到的一些相关引述，我想分享一下我对它们的看法： 1. “职位越高的人，越害怕。” 这更多地反映了硅谷的文化和激励机制，而不是其他任何事情。人工智能的神话在硅谷已经自成一派，而经济和监管激励措施都在助长其发展。 2. “我们确实真诚地相信人工智能可能会杀死全人类！我个人认为在未来十年内发生的可能性超过10%。” 有什么证据吗？有没有任何隐含的数学依据来支持这10%？我没有看到任何，只有对超级人工智能的模糊幻想。 3. “Coxon 离开了 Anthropic，尽管公司即将上市，但他放弃了巨额财富，因为他坚信自己的信念。” 首先，坚信不代表正确。而且，即使以 Anthropic 目前的估值来看，上市前的期权也并非真正的牺牲，它们仍然价值非凡。我不相信这种殉道者的叙事。 4. “自我改进的人工智能即将来临，并遵循指数级改进曲线。” 在我看来，这是隐藏在大量叙事包装下的真相。是的，人工智能无疑已经取得了长足的进步。然而，在每一个诸如纳维-斯托克斯方程解法之类的头条新闻背后，都隐藏着一个比标题暗示的更实际、更细致、更具争议的故事。 5. “我们正接近奇点。” ……指的是 OpenAI 和 Anthropic 的首次公开募股（IPO）。 这些极端叙事真正令人遗憾的部分在于，我认为它们实际上适得其反。它们模糊了我们可以解决的具体、实际的问题，并将细致的立场简化为两个对立面。例如，生物武器、自主武器系统、关键基础设施中的人工智能以及大规模网络攻击是当前真正需要严肃技术和政策关注的风险。 当一切都可能成为末日时，就没有什么能得到解决。