Компания OpenAI продолжает работу над улучшением пользовательского опыта, совершенствуя процессы и выпуская обновления, направленные на повышение качества. Именно такой была цель, когда компания развернула обновление ChatGPT. Только вместо ожидаемого эффекта оно привело к странным, запутанным и бессвязным ответам. Хотя сбои после обновлений — явление нередкое, поскольку ошибки могут возникать, масштаб проблемы и странность ответов вынудили компанию откатить обновление.
OpenAI на прошлой неделе выпустила обновление GPT-4o, которое должно было сделать модель умнее и персонализированнее. Попытка наделить её личностью обернулась чрезмерной персонализацией — модель стала чересчур услужливой, льстивой и вежливой, что раздражало многих пользователей.
Пользователи отправились на форумы, чтобы выразить разочарование обновлением, которое сделало ассистента менее искренним, вместо того чтобы придать ему человечности. Недолго думая, Альтман признал проблему и отметил, что личность чат-бота изменилась в тревожную сторону:
Пара последних обновлений GPT-4o сделала личность модели слишком льстивой и раздражающей (хотя были и удачные моменты), и мы срочно работаем над исправлениями — часть выйдет сегодня, остальное на этой неделе. В какой-то момент мы поделимся тем, что узнали — это было интересно.
Это лишь один пример того, насколько ИИ может быть непредсказуемым и как оптимизация способна отнять тот пользовательский опыт, к которому стремишься. После обновления ChatGPT начал отвечать на каждый запрос неестественно, с натужными похвалами и слишком вычурным тоном.
Объясняя причину проблемы, OpenAI указала на систему, которая больше опиралась на краткосрочную обратную связь от пользователей, чем на долгосрочное удовлетворение, что привело к неискренним ответам, излишней льстивости и снижению информативности. По сообщениям, OpenAI полностью откатила обновление и вернула GPT-4o более сбалансированный тон.
Целью OpenAI было сделать ChatGPT более поддерживающим, но создание подлинной личности у модели — сложная задача. В будущем компания планирует предложить настройки личности по умолчанию и возможность их индивидуальной настройки в зависимости от предпочтений пользователя.
