OpenAI предложила контролировать развитие ИИ  Чтобы учитывать все возможные риски

Под термином «Искусственный интеллект общего назначения» разработчики OpenAI подразумевают ИИ, который сможет решать любые задачи как минимум не хуже человека. AGI должен расширить возможности человечества для максимального процветания, но при этом он может принести людям и ряд потенциальных проблем. Чтобы подготовиться к ним и разработать возможные пути решения, компания предложила набор принципов, которыми следует руководствоваться.

К примеру, системы на базе ИИ нужно испытывать в реальном мире, чтобы изучать обратную связь, доступ к ИИ нужно упростить для всех желающих, а ИИ следует обязать уважать человеческие ценности. Также, по мнению OpenAI, необходимо обеспечить взаимодействие международных структур для использования и регулирования ИИ, обмениваться с общественностью данными и опытом о прогрессе ИИ, а также привлекать заинтересованные стороны, которые могут внести вклад в развитие ИИ.

Разработчики отмечают, что это лишь основные моменты, которые по мере развития AGI могут дополняться и расширяться, поскольку пока сложно предположить, насколько быстро будет развиваться ИИ нового типа и каким образом придется координировать усилия для взаимодействия. В OpenAI также добавили, что у них пока нет методов решения всех потенциальных проблем в будущем, но компания рассчитывает, что в долгосрочной перспективе эти принципы станут обязательными для всех.

Здесь мы рассказываем про чат-боты: