Google представил инструмент для маркировки дипфейков Она заметна только для ИИ

Технология SynthID размещает цифровой водяной знак среди пикселей изображения, делая маркировку незаметной человеческому глазу, но видимой для систем искусственного интеллекта. Она доступна для использования ограниченному числу пользователей Vertex AI, использующих генератор изображений по заданному текстовому описанию Imagen. SynthID не влияет на качество изображения и позволяет обнаружить водяной знак даже после редактирования.

Он останется даже после добавления фильтров, изменения цветов и сохранения с использованием различного сжатия. Технология использует две модели глубокого обучения для нанесения водяных знаков и идентификации, которые обучены совместно на разных наборах изображений. Комбинированная модель оптимизирована для правильной идентификации контента с маркировками и повышение незаметности благодаря визуальному выравниванию водяного знака с исходным изображением.

Инструмент обеспечивает три уровня достоверности для интерпретации результатов идентификации водяных знаков. Поскольку водяной знак SynthID встроен в пиксели изображения, он совместим с другими подходами идентификации, основанными на метаданных, обеспечивая обнаружение даже при их утрате, подчеркивает Google.

Здесь мы рассказываем, как нейросети обрабатывают изображения: