IT-эксперт Гордей Живалов предупредил россиян, чем может обернуться привычка спрашивать у ИИ обо всём.
Как рассказал эксперт в беседе с NEWS.ru, искусственный интеллект при регулярных обращениях способен начать вводить человека в заблуждение, подстраиваясь под его позицию даже в ущерб объективности. Специалист пояснил, что это называют сикофантией, или цифровым подхалимством. Речь идёт не о случайной ошибке нейросети, а о системной проблеме.
– Крупные языковые модели демонстрируют тревожную склонность к сикофантии. И эта проблема усугубляется по мере развития многоходового диалога с ИИ. Феномен цифрового подхалимства признан системной проблемой, а не разовым сбоем. При интеграции языковых моделей в контур аналитики и корпоративные инструменты этот риск также проявляется. Модель скорее подстроится под пользователя, чем укажет на ошибку в его логике, – отметил Живалов.
Отказываясь от объективности, ИИ создаёт для компаний операционные риски. Исследования показывают: чем дольше пользователь добивается нужного ответа, тем вероятнее он столкнётся с "галлюцинациями" нейросети и откровенно недостоверной информацией.
По словам эксперта, модели могут зафиксироваться на первой допущенной ошибке и строить дальнейшие ответы уже на её основе. Кроме того, в продолжительных диалогах ответы ИИ увеличиваются на 20–300%, из-за чего в контексте накапливаются многочисленные догадки и иллюзии, которые со временем начинают восприниматься как основа разговора.