ИИ забивает сеть фейками Продемонстрирована система автоматического «зашумления» медиапространства

Система, работающая на основе искусственного интеллекта, демонстрирует простоту создания и распространения дезинформации в Интернете

Использование искусственного интеллекта (ИИ) для распространения дезинформации в Интернете вызывает все большую озабоченность, о чем свидетельствует недавно созданный проект «CounterCloud». Разработанный всего за два месяца при операционных затратах менее 400 долларов в месяц, CounterCloud иллюстрирует пугающую легкость использования искусственного интеллекта для массового распространения пропаганды.

Автор проекта CounterCloud, эксперт по кибербезопасности, по данным Wired, предпочел остаться неназванным и взял псевдоним Nea Paw. В подробном видеоролике, размещенном на YouTube, он разъяснил мотивы и методологию проекта. Основной целью проекта было оценить эффективность дезинформации, создаваемой искусственным интеллектом, в реальных условиях. Paw отметил, что современные лингвистические модели являются основным инструментом для создания и расшифровки сфабрикованных новостей.

Для начала Paw представил ChatGPT актуальные статьи, поручив ИИ подготовить «противоположную» статью. На выходе система получала различные варианты одной и той же статьи, каждый из которых отличался стилем и точкой зрения. Примечательно, что ИИ умел создавать полностью выдуманные истории, придумывать несуществующие исторические события и оспаривать легитимность исходных статей.

Для оптимизации процесса был встроен модуль «хранитель», благодаря которому ИИ реагировал только на наиболее актуальные материалы. Для усиления иллюзии подлинности в систему были включены аудиозаписи статей, сгенерированных ИИ, а также изображения и профили сфабрикованных журналистов.

Кроме того, система была запрограммирована на расстановку лайков и обмен комментариями в соответствии с разработанным нарративом. Она также могла генерировать «контр-комменты», опровергающие конкретный контент. В течение двух месяцев компания Paw создала самодостаточную систему искусственного интеллекта, которая потоком выдает убедительный контент, работая без перерыва.

Это небольшая иллюстрация того, что вскоре ориентироваться на информацию, полученную из интернета, будет невозможно в принципе.

Как работает ChatGPT: