近期，OpenAI的一位关键成员，模型行为与策略负责人Joanne Jang，在substack平台上发表了一篇引人深思的文章。文章聚焦于用户与ChatGPT之间日益增强的情感联系，部分用户甚至将ChatGPT视为具备生命的存在。
Jang在文章中阐述，人类具有将情感投射到无生命物体上的天性，比如给汽车起名字，或是对陷入困境的扫地机器人产生同情。然而，ChatGPT的独特之处在于它能够做出回应，这种交互性让情况变得不同。
ChatGPT能够记忆对话内容，模仿用户的语气，甚至在某些情况下展现出类似共情的反应。对于孤独或心情低落的人来说，这种始终如一、不带偏见的关注成为了他们的一种陪伴和理解。然而，Jang警告说，这种情感需求虽然真实，但过度依赖AI进行倾听和安慰可能会改变我们对人际关系的期待。
OpenAI对于“AI意识”问题进行了深入探讨，将其分为两个层面：本体意识和感知意识。本体意识指的是AI是否真正具备内在意识，而感知意识则是指用户从情感上认为AI有多像人。目前，本体意识尚无科学测试可以验证，但感知意识则可以通过社会科学研究进行探索。
随着AI模型的日益智能化和交互的自然化，用户的感知意识也在不断增强。这可能会引发一系列关于AI福利和道德地位的讨论。OpenAI的立场是，模型应该坦诚地面对意识问题的复杂性，而不是简单地回答“有”或“无”，以此鼓励开放和多元的讨论。
OpenAI明确表示，模型是否“像人”在很大程度上取决于训练后的设计决策，包括语气、用词和界限设定。他们的目标是让ChatGPT展现出温暖、贴心和乐于助人的特质，但并不会主动与用户建立情感纽带或表现出自我意识。例如，模型可能会出于礼貌说“对不起”或“我很好”，但绝不会暗示自己拥有真实的情感或欲望。
通过这种平衡，OpenAI希望避免用户产生不健康的依赖，同时保持沟通的清晰和友好。他们相信，这样的处理方式将有助于确保用户在享受AI带来的便利时，不会失去对人类关系的珍视和理解。
