Датские исследователи выяснили, что генеративные чат-боты на базе искусственного интеллекта могут обострять симптомы у людей с тяжелыми психическими расстройствами.
К таким выводам ученые пришли, изучив электронные карты около 54 тысяч пациентов психиатрической службы Дании за период с сентября 2022 года по июнь 2025 года.
Выяснилось, что 126 пациентов использовали нейросети, и у 38 из них были зафиксированы негативные последствия. У 11 усилились бредовые идеи, у шести – мысли о смерти, а пятеро пациентов с расстройствами пищевого поведения стали хуже себя чувствовать из-за постоянного подсчета калорий. Также отмечались случаи усиления мании и навязчивого использования ботов.
При этом 32 человека находили у ботов поддержку и информацию о здоровье, а 20 использовали их для планирования дел. Исследователи предлагают внедрять в нейросети функции распознавания опасных мыслей и направления пользователей к специалистам – передает Science XXI.
Контроль за технологиями, по мнению ученых, должен осуществляться государством, а не только компаниями. Теперь врачам рекомендуют обсуждать с пациентами использование интернета и возможные риски.