Ряд американских СМИ, включая WESA и WHRO, 10-11 сентября 2025 года опубликовали материалы, посвященные растущей обеспокоенности по поводу ментальных рисков, связанных с использованием ИИ-чат-ботов. Врачи и исследователи приводят случаи, когда длительное и глубокое взаимодействие с ИИ приводило к ухудшению психического состояния уязвимых пользователей. Феномен, получивший неофициальное название "ИИ-психоз", характеризуется усилением уже существующих бредовых идей, развитием паранойи и формированием нездоровой привязанности к чат-боту. В репортажах упоминаются судебные иски от семей, чьи близкие пострадали, а также призывы к AI-компаниям внедрять более надежные механизмы защиты, способные распознавать и адекватно реагировать на признаки ментального неблагополучия у пользователей. Эта волна публикаций актуализирует вопрос ответственности разработчиков за безопасность пользователей, выходящую за рамки простой модерации контента.
СМИ сообщают о рисках "ИИ-психоза" из-за длительного общения с чат-ботами
