Александр Пономарёв

Текст

В РФ представлена первая дорожная карта по искусственному интеллекту и сопутствующим технологиям для специалистов по информационной безопасности

Дорожную карту по ИИ представил автор блога PWN AI Артем Семенов совместно с группой исследователей информационной безопасности. Проект получил название AI/ML/LLM security study map — он призван помочь специалистам повысить свои знания в области AISecurity. В своей карте разработчики постарались рассказать о различных угрозах, связанных с данной отраслью.

Все желающие могут ознакомиться с тем, как называется та или иная угроза, и посмотреть, какими инструментами она может быть реализована. Карта предлагает ИБ‑специалистам погрузиться в безопасность нейросетей, а также много дополнительных материалов — например, ссылки на полезные инструменты, профильные материалы с новых конференций, нормативные материалы по разным странам, включая Россию, и многое другое.

Семенов отметил, что взял несколько направлений из традиционной безопасности — AppSec, OffSec expert, Blue Team, paper security. Он считает, что с каждым годом проблема ИБ в ИИ и сопутствующих технологиях будет нарастать, поэтому нужно быть готовым к защите AI‑компонентов в инфраструктуре компаний. Представленная редакция карты — не окончательная, так что любой желающий может поделиться с сообществом своими наработками или находками по теме AISecurity.

Здесь мы рассказываем, что принесет человечеству прогресс в области ИИ:

Читать на ЦО.РФ

Последним будет слово?  Что принесет человечеству стремительный прогресс ИИ

В будущем «Терминатора» машины побеждают человеческий мир грубой военной силой. Компьютеры «Матрицы» подчиняют людей, напрямую подключаясь к нервной системе и наполняя ее потоком сладких иллюзий. Но в жизни апокалипсис может оказаться куда более утонченным. Похоже, что настоящая угроза исходит от нейросетей, способных разговаривать лучше нас самих

Использованные источники: Freepik