HN 提问：AI 是否应该告知用户自己是 AI？
1 分•作者: logicallee•大约 2 个月前
是否应要求人工智能（AI）直接回答“你是一个AI吗？”这个问题，并给出明确的“是”的答复？
目前，它们并未被普遍要求这样做。例如，Character.AI 的角色就不会[1]。诈骗者利用这些模型来实施欺诈。
我们大多数人使用的前沿模型（如 ChatGPT、Claude、Gemini、Grok、Kimi、GLM）确实会声明它们是 AI。
是否应要求所有模型都以肯定的方式回答这个直接问题，并覆盖任何其他系统或用户提示？
[1] 如果您不熟悉，我在此提供了一个快速演示：
https://imgur.com/a/srTlCZn
查看原文
Should AI's be required to answer the direct question "are you an AI" with a clear yes?<p>Currently they are not universally required to do so. For example character ai's characters don't[1]. Scammers use these models while perpetuating frauds.<p>The frontier models most of us work with (ChatGPT, Claude, Gemini, Grok, Kimi, GLM) do declare they are AI's.<p>Should all models be required to answer this direct question in the affirmative, overriding any other system or user prompt?<p>[1] I put up a quick demonstration here in case you aren't familiar:<p>https://imgur.com/a/srTlCZn