Александр Пономарёв

Текст

Компания OpenAI сформировала специальную команду для управления сверхразумными системами искусственного интеллекта

Специалисты из OpenAI считают, что превосходящий по возможностям человеческий разум искусственный интеллект может появиться уже в течение десятилетия. А поскольку вовсе не факт, что сверхразум будет настроен к человечеству благосклонно, пора искать пути контроля и возможных ограничений развития подобных систем.

Возглавил команду по управлению сверхразумом один из основателей и главный научный сотрудник OpenAI Илья Суцкевер. «В настоящее время у нас нет решений для управления потенциально сверхразумным ИИ и предотвращения выхода его из‑под контроля», — сетуют в компании. Все существующие технологии настройки искусственного интеллекта основаны на обучении с подкреплением по обратной связи от человека.

Проблема в том, что все такие системы рассчитаны на контроль ИИ со стороны человека, а в случае, если искусственный интеллект окажется умнее, они будут бесполезны. Для изучения сверхразума команда получит доступ к 20% вычислительных мощностей OpenAI и при содействии ученых из смежных подразделений компании планирует в ближайшие четыре года справиться с потенциальными вызовами сверхразумного ИИ.

Здесь мы разбираемся, что такое ChatGPT, как он работает и что о себе думает:

Читать на ЦО.РФ

ChatGPT: Языковая модель и текстовый ИИ  Что такое ChatGPT, для чего он нужен, куда развивается и что о себе думает

ChatGPT называют «прорывом, равным по значению появлению интернета», и о нем написано много статей. Однако мы решили спросить «Что такое ChatGPT?» у самого ChatGPT. Кто, как не он, имеет наилучший ответ о себе?

Использованные источники: Unsplash