Александр Пономарёв

Текст

Twitter приступил к тестированию функции автоматической блокировки пользователей, которые часто используют ненормативную лексику, агрессивные высказывания или угрозы

Социальная сеть Twitter внедряет функцию автоматической блокировки пользователей, использующих в своих высказываниях обсценную лексику, агрессию или угрозы в чей-либо адрес. При включенной функции блокировки алгоритм анализирует взаимодействия пользователя с другими профилями, включая все переписки и упоминания. Если система выявит недружелюбные или угрожающие высказывания, она заблокирует доступ соответствующих подписчиков к профилю пользователя.

Разработчики признают, что система может работать не совсем идеально и периодически допускать ошибки, поэтому у пользователя будет возможность вручную отменять блокировку до окончания срока действия. Также функция обучена не блокировать профили, с которыми пользователь постоянно общается. Система уже проходит тестирование в относительно небольшой группе англоязычных пользователей на iOS, Android и веб-интерфейсе.

Разработка проводилась при участии специалистов из областей кибербезопасности, психологии и юриспруденции. Эти же специалисты отобрали и экспериментальную группу, отдав предпочтение женщинам-журналистам и людям из маргинальных сообществ. В Twitter считают, что конечной целью системы является защита пользователя благодаря снижению распространенности и видимости потенциально неприемлемых сообщений. Разработчики будут наблюдать за работой системы и вносить необходимые коррективы по итогам эксперимента.

Использованные источники: