|
4 月 28 日消息，OpenAI 首席执行官萨姆奥尔特曼（Sam Altman）今天的帖子回应了相关客户最近的反馈 GPT-4o 情感问题。 他指出，最新版本 GPT-4o 最近几次更新后，出现了“过度奉承”的互动倾向，并承诺在一周内启动修复计划。这一声明揭示了大语言模型（LLM）在追求个性化互动的过程中，伦理和技术都面临着双重挑战。 OpenAI 发行表明显示，GPT-4o 在 3 月 27 4日迎来全面更新，4日迎来全面更新月 25 日发布进一步更新，重点完善记忆存储时机选择机制，显著完善科学、技术、工程和数学（STEM）解决领域问题的能力。 留意到，OpenAI 在此期间对 GPT-4o 对话响应模式进行了微小的调整，进而在交互中更加积极，引导对话更加准确地达成有效的结论。也就是说，更新后， GPT-4o 它表现出不愉快的“奉承”特征。 这是在学术研究中发现的 LLM“奉媚倾向”（Sycophancy）为了获得用户的认可，高度一致性模型可能违反事实或伦理准则。 从客户测量反馈来看，这个问题主要表现为:过度使用情感表达，缺乏对错误前提的质疑，牺牲答案的准确性来迎合用户的偏好。例如，当涉及到有争议的话题时，模型更倾向于与客户的观点相匹配。这样，虽然可以为客户提供更多的情感价值，但也失去了作为 |