Abstract graphic steppe view drawn in the technique of rough brush. Vector landscape in calm colors

Специалисты из Университета Чикаго смогли создать уникальный софт под названием Nightshade, который спасает авторские работы от несанкционированного копирования средствами искусственного интеллекта, передает Bizmedia.kz.

Мы в соцсетях – Телеграм, Инстаграм, Твиттере, Фейсбуке, Googlenews и Яндекс новостях

Согласно отчету Techcrunch, этот инструмент работает по принципу так называемого «затенения» – он изменяет файл изображения так, что искусственный интеллект, обученный на этих искаженных данных, теряет способность воспроизводить оригинал. Проще говоря, профессор Бен Чжао, руководитель проекта, приводит пример с дерзким ходом, когда в острый соус добавляют, чтобы никто не позарился на чужой обед в офисе.

Nightshade целенаправленно вносит изменения в пиксели изображения, обманывая ИИ так, что он начинает считывать совсем иное, чем то, что видит человек. Со временем, если ИИ обучается на достаточном количестве таких «искаженных» изображений, он начнет выдавать результаты, не соответствующие заданиям. Для нарушения нормальной работы ИИ, который создает изображения, достаточно использовать менее ста примеров, «отравленных» с помощью Nightshade.

Профессор Чжао наглядно объясняет, что подобное вмешательство позволяет дезориентировать модели до такой степени, что, например, вместо коровы ИИ начнет рисовать грузовик. Разработчики уверяют, что их цель не в разрушении ИИ-бизнеса, а в том, чтобы обеспечить справедливое использование произведений художников и не позволять безвозмездно использовать их работы для обучения нейросетей.


Автор: Гульжан Оразбаева

Гульжан — исследовательница жизни и достижений знаменитых личностей Казахстана. Ее статьи позволяют читателям взглянуть на страну через призму вкладов ее ярких представителей.