OpenAI собрала команду для управления сверхразумом И контроля над ним

Специалисты из OpenAI считают, что превосходящий по возможностям человеческий разум искусственный интеллект может появиться уже в течение десятилетия. А поскольку вовсе не факт, что сверхразум будет настроен к человечеству благосклонно, пора искать пути контроля и возможных ограничений развития подобных систем.

Возглавил команду по управлению сверхразумом один из основателей и главный научный сотрудник OpenAI Илья Суцкевер. «В настоящее время у нас нет решений для управления потенциально сверхразумным ИИ и предотвращения выхода его из‑под контроля», — сетуют в компании. Все существующие технологии настройки искусственного интеллекта основаны на обучении с подкреплением по обратной связи от человека.

Проблема в том, что все такие системы рассчитаны на контроль ИИ со стороны человека, а в случае, если искусственный интеллект окажется умнее, они будут бесполезны. Для изучения сверхразума команда получит доступ к 20% вычислительных мощностей OpenAI и при содействии ученых из смежных подразделений компании планирует в ближайшие четыре года справиться с потенциальными вызовами сверхразумного ИИ.

Здесь мы разбираемся, что такое ChatGPT, как он работает и что о себе думает: