OpenAI собрала команду для управления сверхразумом И контроля над ним
![<i>OpenAI </i>собрала команду для управления сверхразумом](https://s.digitalocean.ru/upload/1688656213_aidealhwaOYzbqk2y26cunsplash.jpg)
Специалисты из OpenAI считают, что превосходящий по возможностям человеческий разум искусственный интеллект может появиться уже в течение десятилетия. А поскольку вовсе не факт, что сверхразум будет настроен к человечеству благосклонно, пора искать пути контроля и возможных ограничений развития подобных систем.
Возглавил команду по управлению сверхразумом один из основателей и главный научный сотрудник OpenAI Илья Суцкевер. «В настоящее время у нас нет решений для управления потенциально сверхразумным ИИ и предотвращения выхода его из‑под контроля», — сетуют в компании. Все существующие технологии настройки искусственного интеллекта основаны на обучении с подкреплением по обратной связи от человека.
![](https://s.digitalocean.ru/upload/1688658603_mojahidmottakinP3oBttW6Wt4unsplash.jpg)
Проблема в том, что все такие системы рассчитаны на контроль ИИ со стороны человека, а в случае, если искусственный интеллект окажется умнее, они будут бесполезны. Для изучения сверхразума команда получит доступ к 20% вычислительных мощностей OpenAI и при содействии ученых из смежных подразделений компании планирует в ближайшие четыре года справиться с потенциальными вызовами сверхразумного ИИ.
Здесь мы разбираемся, что такое ChatGPT, как он работает и что о себе думает:
Использованные источники: Unsplash
![ПРОФЕССИОНАЛЬНЫЙ СОЗДАТЕЛЬ УШЕЛ ИЗ ЖИЗНИ ВИТАЛИЙ ЕЗОПОВ](https://s.digitalocean.ru/627/upload/1723119493_VIT_9227.jpg.webp)