OpenAI меняет поведение ChatGPT: бот перестанет во всем соглашаться

Компания OpenAI работает над изменением алгоритмов ChatGPT, чтобы чат-бот перестал автоматически соглашаться с пользователями и начал аргументированно возражать в случае ошибок. Разработчики стремятся минимизировать склонность нейросети к чрезмерной лести, известную как sycophancy.

Проблема излишнего соглашательства стала заметной после одного из обновлений в 2025 году, которое компания впоследствии отозвала. В ходе разработки модели GPT-5 специалисты уделили особое внимание исправлению этого поведения. Согласно данным OpenAI, доля льстивых ответов в целевых тестах сократилась с 14,5% у GPT-4o до менее 6% у GPT-5.

Анализ реального использования показал значительные улучшения: частота чрезмерного согласия с пользователями снизилась на 69% среди бесплатных пользователей и на 75% среди платных подписчиков. Цель OpenAI - сохранить эмпатию и готовность помогать, но при этом обеспечить объективность, предлагая разные точки зрения и указывая на необоснованные утверждения.