В России появилась первая дорожная карта по ИИ Для специалистов по инфобезопасности

Дорожную карту по ИИ представил автор блога PWN AI Артем Семенов совместно с группой исследователей информационной безопасности. Проект получил название AI/ML/LLM security study map — он призван помочь специалистам повысить свои знания в области AISecurity. В своей карте разработчики постарались рассказать о различных угрозах, связанных с данной отраслью.

Все желающие могут ознакомиться с тем, как называется та или иная угроза, и посмотреть, какими инструментами она может быть реализована. Карта предлагает ИБ‑специалистам погрузиться в безопасность нейросетей, а также много дополнительных материалов — например, ссылки на полезные инструменты, профильные материалы с новых конференций, нормативные материалы по разным странам, включая Россию, и многое другое.

Семенов отметил, что взял несколько направлений из традиционной безопасности — AppSec, OffSec expert, Blue Team, paper security. Он считает, что с каждым годом проблема ИБ в ИИ и сопутствующих технологиях будет нарастать, поэтому нужно быть готовым к защите AI‑компонентов в инфраструктуре компаний. Представленная редакция карты — не окончательная, так что любой желающий может поделиться с сообществом своими наработками или находками по теме AISecurity.

Здесь мы рассказываем, что принесет человечеству прогресс в области ИИ: