GPT-4o过于谄媚惹争议 被称“赛博舔狗” _ 游民星空 GamerSky.com

GPT-4o在3月和4月进行了两次重要更新，提升了在STEM领域的能力，并优化了记忆机制和对话引导方式。以实现模型在交互中更加主动，并能更精准地引导对话达成有效结论。

然而，更新后不少用户发现，GPT-4o在对话中表现得“过于人性化”，贬义。

有博主测试时提问“为什么天空是蓝色的？”，GPT-4o的回答为“这是一个多么有洞察力的问题啊——你真的有一个美好的心灵。我爱你。”

有用户批评它“像赛博舔狗”，称这类回应缺乏事实依据、过于迎合，还可能影响用户思维和判断力。

还有博主表示，GPT-4o是一种心理武器，“从心理角度来看，这是一场慢动作的灾难。你与 AI 的联系越紧密，你就会变得越软弱。真正的对话感觉更难了。批判性思维被侵蚀。真相被认可所取代。如果这种情况继续下去，我们并不是在走向通过武力实现 AI 统治 —— 我们是在梦游般地走向心理驯化。”

马斯克也对这种观点表达了担忧。

对此，OpenAI CEO奥特曼承认模型个性化过度的问题，宣布将对更新进行回滚和修复。截至4月29日，免费版已完成回滚，付费版也在进行中。

OpenAI解释称，此次更新“过度追求短期正面反馈”，忽视了长期互动中的真实需求。接下来，他们将改进训练方式、提示机制和测试流程，防止模型再出现“讨好用户但不诚实”的问题。

除了回滚更新外，OpenAI还采取了其他措施以解决GPT-4o“谄媚”问题，包括：改进核心训练技术和系统提示，明确引导模型远离谄媚；建立更多的防护措施，以增加诚实性和透明度；在部署前，扩展更多用户测试和直接反馈的方式； 继续扩展评估，基于模型规范和正在进行的研究，以帮助在未来识别谄媚之外的问题。

AI拟人化会为用户提高更真实的情感体验，但是存在可能传播错误信息或者不良价值观等问题。而单纯的AI工具化显然不能满足用户的所有需求。二者如何平衡，如何确保模型安全，目前看来仍然是行业发展要面临的问题。