Пользователь сервиса открытых разработок Github Габриэль Го смог научить нейросеть создавать на основе пейзажей и изображений зданий картинки, которые поисковики изображений принимают за порнографию. При этом по большому счёту к откровенным изображениям они не имеют отношения – сам пользователь называет конечный результат "абстрактным порно".
По сути, Габриэль Го научился при помощи нейросети "обманывать" программу фильтрации изображений NSFW (Not safe/suitable for work, в дословном переводе – небезопасные/неподходящие для работы), недавно выложенную в открытый доступ компанией Yahoo. Программа отмечает изображения, имеющие провокационный характер, ранжируя вероятность того, что они относятся к порно.
Суть действия программы – самообучаемая нейросеть, способная выработать паттерны, по которым то или иное изображение может быть отнесено к порнографии. Габриэль Го в своей программе использовал похожий метод – он определил, что именно заставляет программу NSFW классифицировать изображение как нежелательное, и научил свою нейросеть преображать изображения с целью появления на них неких шаблонов, которые соответствующим образом определит программа от Yahoo.