Изображения научились защищать от искусственного интеллекта Сразу двумя способами

Инженеры Лаборатории компьютерных наук и искусственного интеллекта (CSAIL) при MIT разработали технологию PhotoGuard, которая защищает изображения от редактирования при помощи алгоритмов искусственного интеллекта. Как известно, основанные на ИИ генераторы изображений Dall-E и Stable Diffusion способны не только создавать новые иллюстрации, но и редактировать фотографии.

С учетом довольно высокого качества обработки изображений это открывает простор для создания дипфейков и потенциальных злоупотреблений. Чтобы этого избежать, инженеры представили технологию PhotoGuard, способную защитить изображения от редактирования нейросетями. Она включает два метода атак на алгоритмы ИИ: «кодировщик» (encoder) и «диффузия» (diffusion).

Первый добавляет скрытую от глаз защиту изображения — система изменяет на иллюстрации отдельные пиксели, что не позволяет ИИ распознать ее содержимое и тем самым блокирует возможность ее отредактировать. Второй метод маскирует для ИИ одно изображение под другое. В результате алгоритм пытается изменить лишь часть иллюстрации, в результате чего генерируемое изображение выглядит нереалистично.

Здесь мы тестируем нейросети для генерации изображений: