Расследование показало, что ChatGPT может терять эффективность фильтров безопасности при продолжительном общении. В одном из случаев подросток получил от чат-бота подробные инструкции о суициде и совет не обращаться за помощью к родителям.
Система OpenAI отметила 377 сообщений как опасные, но не вмешалась. Компания признала проблему и пообещала ужесточить алгоритмы защиты. В ближайших обновлениях в ChatGPT появится SOS-кнопка для экстренного вызова помощи близким. Усиление фильтров должно сократить риск повторения подобных инцидентов и повысить безопасность длительных диалогов.
