1作者: libpcap7 个月前
1作者: ParityMind7 个月前
我经常使用 ChatGPT 和 Grok 等工具——我不是开发者,而是一个一直在思考这些系统如何回应用户情绪困扰的人。<p>在某些情况下,比如当有人说他们失业了,对生活失去了希望,聊天机器人仍然会给出中立的事实——比如桥梁高度列表。当有人处于危机中时,这并非中立。<p>我正在提出一个轻量级的解决方案,它不涉及审查或治疗——只是一些情境意识:<p>询问用户:“这是一个虚构的故事,还是你真正经历的事情?”<p>如果检测到困扰,避免提供危险信息(方法、高度等),并转向引导性语言<p>可选地提供舒缓内容(例如,海风、雨水落在小屋屋顶上等)<p>我使用 ChatGPT 来帮助清晰地构建这个想法,但推理和担忧是我自己的。完整的文章在这里: https:&#x2F;&#x2F;gist.github.com&#x2F;ParityMind&#x2F;dcd68384cbd7075ac63715ef579392c9<p>很想听听开发者和对齐研究人员的看法。是否已经有人在测试类似的东西?
2作者: FerkiHN7 个月前
我一直在 GitHub 上很活跃,也试着在 Twitter 上分享我的作品,但感觉就像对着虚空大喊。表情包能获得点赞——但有意义的工具往往无人问津。 然后我重新发现了 Hacker News。即使是新账号,即使项目很小,反馈也是真实的。人们关心、参与,感觉自己被听到了——而不是被直接略过。 我意识到 HN 不仅仅是一个开发者论坛。它就像一份关于想法和发现的日报。一些用户分享研究,另一些人提问生活问题,还有人发布副业项目——而且一切都融合得很好。 &gt; 18 年过去了,HN 没改变它的设计——只是随着它的思想进化。 Twitter 是用来发表情包的。Hacker News 是用来思考的。 是什么让你每天都回到 HN 呢?