«Одноклассники» подключают нейросеть Она будет бороться с хейтерами

Нейросеть будет автоматически выявлять агрессивные и оскорбительные комментарии, а так же публикации, разжигающие агрессию. Нарушителей система будет направлять в автоматический бан или передавать решение модераторам. Сообщается, что нейросеть будет оценивать на наличие токсичного содержания не только тексты, но и изображения.
Запуск технологии, вероятно, связан с новыми законами об ужесточении наказания за фейки – социальная сеть страхуется от необдуманных действий пользователей. Нейросеть, возможно, и не идеальный выход – люди бесконечно изобретательны в оскорблении ближнего своего, и никакому ИИ за ними не угнаться, - но это лучше, чем вариант TikTok, который просто остановил загрузку роликов.
Все призывы к разжиганию ненависти и ксенофобии, в том числе с использованием нецензурной лексики, а также угрозы другим пользователям будут блокироваться. Технология уже работает на всех платформах – и мобильных и десктопных.
Использованные источники:

