Ученые призывают поставить ИИ на паузу В продвинутых системах увидели угрозу

В письме утверждается, что продвинутые системы искусственного интеллекта могут нести серьезные риски для общества и человечества, поэтому их обучение следует приостановить на шесть месяцев. «Мощные системы искусственного интеллекта следует разрабатывать только тогда, когда мы будем уверены, что эффект от их применения будет положительным, а риски — управляемыми», — подчеркнули авторы письма.

Письмо подписали уже более 1200 человек, в том числе Илон Маск, Стив Возняк, Эндрю Янг, Йошуа Бенджио, Стюарт Рассел, Эван Шарп, Крис Ларсен, Эмад Мостак и многие другие, а также ученые из DeepMind, Гарварда, Оксфорда и Кембриджа. Ученые также призвали воздержаться от обучения систем мощнее GPT-4, пока независимые эксперты не разработают для них общие протоколы безопасности.

«Эта пауза должна быть всеобщей и контролируемой, и в ней должны участвовать все ключевые участники. Если такую паузу нельзя установить быстро, то правительства должны вмешаться и ввести мораторий», — утверждают авторы письма. «Добившись успеха в создании мощных систем, однажды мы будем пожинать плоды, разрабатывать эти системы на всеобщее благо и давать обществу возможность адаптироваться», — считают ученые.

Здесь мы разбирались, почему люди боятся искусственный интеллект: