ИИ возьмет на себя демократию OpenAI даст на это денег
OpenAI Inc. объявляет о новой инициативе для финансирования экспериментов по «демократическому принятию правил ИИ». Новаторская исследовательская лаборатория ИИ приглашает команды по всему миру подавать предложения концепций, касающихся реализации демократического процесса для установления правил системы ИИ.
Для этой цели компания выделяет десять грантов стоимостью 100 000 долларов каждый. Цель состоит в том, чтобы извлечь уроки из этих экспериментов и использовать полученные результаты в качестве основы для более широкого и амбициозного демократического процесса в будущем.
«Хотя эти первоначальные эксперименты не предназначены для принятия решений, мы надеемся, что они исследуют вопросы, связанные с принятием решений, и создадут новые демократические инструменты, которые смогут более непосредственно информировать о принятии решений в будущем», – заявила компания.
OpenAI настаивает на том, что управление мощными системами ИИ, включая решения об их развертывании, требует строгого общественного контроля. Таким образом, программа грантов рассматривается как важный шаг на пути к созданию демократических процессов контроля над AGI (искусственный интеллект общего назначения) и, в конечном итоге, сверхинтеллекта.
Программа спонсируется некоммерческим подразделением OpenAI, и это гарантирует, что результаты исследований будут общедоступны и внесут вклад в понимание широким сообществом вопросов управления ИИ.
Организация определяет «демократический процесс» как процесс, в котором представительная группа людей участвует в диалоге и обсуждении, прежде чем прийти к решению в ходе прозрачного процесса. Она поощряет творческий подход и инновации в предложениях заявителей, опираясь на известные методики или разрабатывая совершенно новые подходы.
Правда, среди примеров «вдохновляющих демократических методов» приведены такие модели, как Wikipedia, Twitter, MetaGov (запрещена в РФ) и другие, чьи «демократичность и непредвзятость», мягко говоря, не бесспорны.
Программа также поощряет изучение того, как ИИ может быть использован для «улучшения демократического процесса», например, для «обеспечения более эффективной коммуникации между большими группами людей». (Звучит довольно зловеще.)
Что такое ChatGPT:
Использованные источники: