ИИ-творчество промаркируют Компании готовы ввести водяной знак

Группа компаний, в которую входят такие гиганты, как Google, Microsoft, Meta и Amazon, а также основатели генеративного ИИ OpenAI, Anthropic и Inflection, взяла на себя добровольные обязательства по повышению безопасности своих продуктов.

Они включают в себя создание «надежных систем», позволяющих идентифицировать или снабжать водяными знаками контент, созданный инструментами искусственного интеллекта. Эти идентификаторы,или водяные знаки, будут различать, какой сервис искусственного интеллекта был использован для создания контента, но не содержать никакой информации, которая может быть использована для идентификации первоначального пользователя.

Инструменты генеративного ИИ уже использовались для распространения ложной информации. Так, в мае рынки на короткое время упали после того, как в социальных сетях распространилось фальшивое изображение Пентагона, окутанного дымом, а в политической рекламе, выпущенной в поддержку губернатора Флориды Рона ДеСантиса, с помощью искусственного интеллекта был воспроизведен голос Дональда Трампа и создан звуковой фрагмент, которого на самом деле не было.

Исследование, опубликованное в июне, показало, что большинство людей не могут определить, кем был написан твит – человеком или ChatGPT. Участники исследования даже сочли твиты ChatGPT более убедительными, чем их человеческие аналоги. Растущее беспокойство по поводу того, как распознать поддельный контент, стимулировало многие ИИ-стартапы к разработке инструментов, позволяющих определить, кем был создан тот или иной контент. Однако в ходе исследований и испытаний многие из этих программ показали свою необъективность или дали неудовлетворительные результаты.

Может быть, водяные знаки помогут?

Как работают нейросети: