Хакеры нацелились на ИИ Новый тренд угрожает общей безопасности

Федеральное бюро расследований США (ФБР) выразило обеспокоенность растущей угрозой искусственному интеллекту (ИИ) со стороны как отдельных злоумышленников, так и государств. Недавнее заявление Бюро подчеркивает повышенный интерес иностранных структур к американским ИИ-активам.

По данным ФБР, иностранные «агенты» активизируют свои действия против американских компаний, академических институтов и правительственных исследовательских организаций, занимающихся разработкой ИИ. Эти противники ставят во главу угла кражу алгоритмов, данных и инфраструктуры ИИ и даже идут на вербовку ведущих специалистов по ИИ из этих организаций.

В государственном секторе выделяют два основных риска:

1. Манипулирование ИИ на этапе его разработки, когда алгоритмы могут быть изменены таким образом, что это приведет к результатам, наносящим ущерб интересам общества или конкретных организаций.

2. Злонамеренное использование ИИ для поддержки враждебных действий. Это включает в себя его использование для автоматизации или дополнения вредоносных действий, таких как кибератаки или распространение дезинформации.

В более широком криминальном ландшафте также наблюдаются изменения: злоумышленники используют ИИ для активизации своей вредоносной деятельности. К ним относятся генерация вредоносного кода с помощью ИИ, создание убедительных фишинговых кампаний, передовая разработка вредоносных программ, обратный инжиниринг и синтез контента, например, deepfakes.

Почему ИИ – это опасно: