Павел Иевлев

Текст

Новое исследование утверждает, что большие языковые модели не представляют экзистенциальной угрозы человечеству

Исследователи из Университета Бата и Технического университета Дармштадта представили новые данные, подтверждающие, что большие языковые модели, такие как ChatGPT, не способны на самостоятельное обучение и не представляют экзистенциальной угрозы человечеству. Результаты исследования были опубликованы в рамках 62-го ежегодного собрания Ассоциации компьютерной лингвистики (ACL 2024).

Согласно отчету, языковые модели обладают ограниченной способностью следовать инструкциям и преуспевать во владении языком, но не могут приобретать новые навыки без явных на то инструкций. Это делает их контролируемыми, предсказуемыми и безопасными в использовании.

Профессор Ирина Гуревич и доктор Хариш Тайяр Мадабуши, руководители исследовательской группы, провели эксперименты, чтобы проверить возможности моделей справляться с задачами, с которыми они никогда ранее не сталкивались. Результаты этих тестов подтвердили, что модели не способны на сложное мышление или самостоятельное принятие решений.

«Наше исследование показывает, что страхи относительно того, что ИИ может представлять собой угрозу на уровне человечества, чрезмерны и могут мешать дальнейшему развитию и применению этих технологий», — прокомментировал доктор Тайяр Мадабуши.

Однако исследователи подчеркнули, что это не означает отсутствие рисков, связанных с использованием ИИ. «Важно устранять риски, такие как создание фейковых новостей или усиление возможностей для мошенничества, но без излишней регуляции, основанной на недоказанных предположениях о возможностях ИИ», — добавила профессор Гуревич.

Что принесет человечеству стремительный прогресс ИИ:

Читать на ЦО.РФ

Последним будет слово?  Что принесет человечеству стремительный прогресс ИИ

В будущем «Терминатора» машины побеждают человеческий мир грубой военной силой. Компьютеры «Матрицы» подчиняют людей, напрямую подключаясь к нервной системе и наполняя ее потоком сладких иллюзий. Но в жизни апокалипсис может оказаться куда более утонченным. Похоже, что настоящая угроза исходит от нейросетей, способных разговаривать лучше нас самих

Использованные источники: