ИИ занимает соцсети Бот-фермы вышли на новый уровень

Обсерватория социальных медиа (OSoMe) выпустила отчет «Анатомия вредоносной социальной бот-сети на базе ИИ», в котором обнаружила наличие обширной сети ботов на базе ИИ в Twitter.

Основные выводы, сделанные в отчете, обобщают следующие данные:

1. Идентификация ИИ-ботов. Используя эвристические методы, исследователи OSoMe выявили кластер, состоящий из нескольких тысяч поддельных аккаунтов. В этих аккаунтах используется технология ChatGPT, позволяющая генерировать контент, практически неотличимый от созданного человеком.

2. Поведение и активность. Так называемые «социальные боты» демонстрируют устойчивые модели поведения и следуют единой вероятностной модели активности. Их координация позволяет им обрабатывать конкретные сайты и распространять комментарии, эффективно обходя существующие механизмы защиты от мошенничества.

С развитием больших языковых моделей (LLMs), таких как ChatGPT, появляется возможность появления на социальных платформах более сложных ИИ-коллабораций. Манипулятивность контента соцсетей таким образом поднимается на новый уровень.

Что такое боты: