ИИ будет искать «группы смерти» и подростков с суицидальным настроем Создан алгоритм, который будет определять опасные тенденции в социальных сетях

Если подобная система действительно заработает, то ее значение сложно переоценить – в РФ суицид находится на третьем месте среди причин гибели детей до 18 лет. Однако у экспертов аналитики социальных сетей возникло множество сомнений в эффективности предлагаемого механизма.

Действительно, ИИ относительно несложно обучить выделять «суицидальный и депрессивный контент», однако контент такого рода присутствует в подростковых группах и аккаунтах практически повседневно и постоянно, являясь чаще всего возрастным маркером, а не тревожным сигналом. То есть, на практике ИИ завалит мониторинг ложными срабатываниями, реагируя на каждую картинку с вороном и черепом.

Второй момент – действительно опасные паблики суицидального содержания закрытые, то есть по умолчанию не попадут в мониторинг. Вопрос доступа поисковой системы ИИ к закрытым сообществам – скользкий в юридическом и этическом плане, а также опасен созданием прецедента.

В общем, подобные системы требуют более глубокой проработки вопроса, чем просто создание еще одного самообучающегося алгоритма. Однако уполномоченный при президенте РФ по правам ребенка Анна Кузнецова уже включила проект в приоритетную повестку «Стратегии качества детства».