Открытый ИИ разработал химоружие Это оказалось доступнее, чем кажется

В качестве безобидного эксперимента (мы на это надеемся) американская компания Collaborations Pharmaceuticals настроила свою нейросеть для разработки лекарств на создание ядов. В качестве задачи была поставлена цель получить максимальную токсичность придуманного соединения. Чем более оно опасно для человека, тем больше условных баллов присваивалось ему нейросетью.

В качестве точки отсчета использовалось крайне опасное вещество – ингибитор ацетилхолинестеразы (VX), мощный токсин, воздействие которого на организм человека приводит к смерти от судорог дыхательной мускулатуры.

Всего за шесть часов нейросеть выдала 40 000 химических соединений, причем немалая их часть превысила токсичность эталонного VX во много раз. Просто клад для тех, кому кажется, что людей на планете стало многовато.

Особую тревогу вызывает то, что генеративные модели являются, по факту, общедоступными. Их исходники можно свободно скачать, и дальше дело только в настройках параметров и доступной вычислительной мощности.

Возможно, в этом состоит новый вызов технологий для общественной безопасности.