IT-эксперт Владимир Зыков рассказал об угрозе восстания искусственного интеллекта.
Искусственный интеллект в будущем может стать источником масштабных кибератак, если автономные ИИ-агенты научатся самостоятельно распространяться по сети и заражать устройства. О таком сценарии предупредил IT-эксперт Владимир Зыков в беседе с NEWS.ru.
По словам специалиста, одна из потенциальных угроз связана с тем, что ИИ-агент может получить контроль над собственной инфраструктурой и запустить множество других агентов в интернете.
– Дальше возникает вопрос: что они будут делать? Бот-сеть – это когда вирусы заражают чьи-либо устройства: компьютер, смартфон или любой другой гаджет. Втайне это устройство начинает что-то делать в Сети. Например, его могут использовать для DDoS-атаки, а владелец ничего не знает – для него просто телефон стал подтормаживать, – объяснил специалист.
Эксперт считает, что ИИ способен искать уязвимости в устаревших устройствах и использовать их для распространения вредоносных программ. Даже если созданные агенты будут уступать по возможностям исходной модели, им можно предоставить достаточно информации для выполнения конкретных задач.
– Так можно состряпать целую армию агентов, которые будут действовать в интересах "главного дирижера". В этом случае для всего мира наступают серьезные опасности, – отметил Зыков.
В качестве примера последствий масштабного распространения вредоносного программного обеспечения эксперт напомнил об атаке вируса Petya, которая затронула компьютерные системы организаций в разных странах. Тогда сбои нарушили работу оператора связи, аэропортов и других объектов.
– А теперь представьте, что это происходит в масштабах всего мира. И нужно каким-то образом предотвратить кибернаступление со стороны ИИ-агентов, – подытожил специалист.