...

Logo Pasino du Havre - Casino-Hôtel - Spa
in partnership with
Logo Nextory

ChatGPT научат не подпитывать "заблуждения" пользователей

• Aug 5, 2025, 2:01 PM
1 min de lecture
1

Компания OpenAI решила добавить в ChatGPT средства защиты психического здоровья, после того как обнаружила, что чатбот, по ее мнению, не смог распознать "признаки бреда или эмоциональной зависимости".

По мере распространения инструментов искусственного интеллекта (ИИ) все больше людей обращаются к чат-ботам за эмоциональной поддержкой и помощью в решении личных проблем.

Однако чат-бот ChatGPT от OpenAI подвергся критике за то, что он не смог должным образом отреагировать на уязвимых людей, испытывающих психические или эмоциональные расстройства. В одном случае 30-летний мужчина с аутизмом был госпитализирован с маниакальными приступами и эмоциональным срывом после того, как ChatGPT укрепил его веру в то, что он открыл способ искривления времени.

"Мы не всегда все делаем правильно, - говорится в заявлении OpenAI, объявляющем об изменениях. - Наш подход будет развиваться по мере того, как мы будем учиться на реальных примерах".

По словам компании, изменения позволят ChatGPT лучше распознавать признаки психического или эмоционального расстройства, реагировать на них соответствующим образом и при необходимости направлять пользователей к ресурсам, основанным на фактических данных.

Чатбот теперь будет поощрять перерывы во время длительных сессий, а вскоре компания запустит новую функцию для ответов на вопросы, связанные с принятием важных личных решений.

Например, он больше не будет давать прямых ответов на вопросы типа "Должна ли я расстаться со своим парнем?", а будет задавать вопросы, чтобы помочь пользователю обдумать его личные дилеммы.

OpenAI заявила, что также создает консультативную группу из экспертов в области психического здоровья, развития молодежи и человеко-компьютерного взаимодействия (HCI), чтобы учесть их мнение в будущих обновлениях ChatGPT.

Технологический гигант предполагает, что ChatGPT будет полезен в различных личных сценариях: например, при подготовке к сложной дискуссии на работе или в качестве "зонда", который поможет человеку, "который чувствует, что «застрял», «распутать свои мысли».

Эксперты говорят, что, хотя чат-боты могут оказать определённую поддержку в сборе информации об управлении эмоциями, реальный прогресс часто происходит благодаря личной связи и доверию между человеком и квалифицированным психологом.

Это не первый раз, когда OpenAI корректирует ChatGPT в ответ на критику по поводу того, как он обрабатывает личные дилеммы пользователей. В апреле OpenAI отменила обновление, которое, по её мнению, сделало ChatGPT излишне льстивым или покладистым.

По словам компании, ChatGPT "иногда говорил то, что звучало приятно, а не то, что действительно было полезно".


Yesterday

«Усилия Кремля приближают изоляцию рунета»
• 3:29 PM
1 min
По мнению западных аналитиков, сегодня у российских властей уже есть реальная возможность возвести «Великий российский фаервол»
Read the article
ChatGPT научат не подпитывать "заблуждения" пользователей
• 2:01 PM
1 min
Компания OpenAI заявила, что перерабатывает свой чат-бот с искусственным интеллектом, чтобы лучше распознавать признаки психического или эмоционального расстройства.
Read the article
Большинство европейских компаний зависят от американских техногигантов (исследование)
• 1:55 PM
2 min
По данным нового исследования, примерно три из четырёх европейских компаний полагаются на американские в техническом оснащении и электронных сервисах. Для Европы актуальна проблема "цифрового суверенитета", считают эксперты.
Read the article
Почему мир до сих пор не победил полиомиелит?
• 9:48 AM
2 min
"Поддельные записи об иммунизации, несовершенная вакцина и ошибки руководства способствовали возвращению полиомиелита", - говорится в расследовании.
Read the article
"Половое созревание пумы": почему перименопауза стала вирусной в соцсетях?
• 8:48 AM
4 min
В социальных сетях женщины называют перименопаузу "половым созреванием пумы", поощряя открытое обсуждение исторически малоизученной, но практически повсеместной проблемы здоровья.
Read the article
Испания: первые жертвы новой волны жары
• 7:26 AM
1 min
Высокие температуры могут продержаться до середины августа
Read the article
Rheinmetall получил заказ на 770 млн евро от немецкой армии на фоне оборонного бума
• 4:46 AM
1 min
Сделка на поставку более чем 1000 автомобилей для логистики происходит на фоне того, что Европа увеличивает военные расходы в ответ на глобальную напряженность.
Read the article
Еврокомиссия отложит ответные меры на пошлины США еще на шесть месяцев
• 4:00 AM
1 min
В то время как ЕС и США продолжают переговоры о совместном заявлении для официального оформления соглашения, исполнительная власть ЕС вновь откладывает принятие пакета контрмер, которые должны были вступить в силу 7 августа.
Read the article