Люди переоценивают возможности ИИ Эксперимент выявил тревожную тенденцию

Исследование Калифорнийского университета в Мерседе выявило тревожную тенденцию: люди склонны чрезмерно доверять искусственному интеллекту (ИИ) даже в вопросах жизни и смерти. Эксперимент показал, что даже когда ИИ предоставлял случайные и ненадежные рекомендации, участники, управляющие вооруженным беспилотником, часто меняли свои первоначальные решения.

В эксперименте добровольцы управляли виртуальным беспилотником и должны были определить, является ли цель на экране врагом или союзником. Несмотря на предупреждения об ограничениях ИИ, около двух третей участников изменили свои решения под влиянием советов, сгенерированных роботом. Любопытно, что даже при осознании случайного характера предложений ИИ, люди все равно чаще соглашались с ним.

Особенно важно отметить, что изначальные решения людей были верными в 70% случаев, но после вмешательства ИИ их точность снижалась до 50%. Это подчеркивает, насколько сильно люди могут переоценивать возможности ИИ, даже когда речь идет о критически важных решениях.

Эксперимент также показал, что уровень доверия к роботу лишь незначительно зависел от его внешнего вида: человекоподобные модели вызывали немного больше доверия, чем неантропоморфные. Однако ключевым фактором оставалось само присутствие ИИ, независимо от его формы.

Профессор Колин Холбрук, один из руководителей исследования, отметил, что такие результаты должны вызывать беспокойство, особенно с учетом все более широкого применения ИИ в различных областях, таких как военные действия, медицина и правоохранительная деятельность. Люди часто предполагают, что ИИ, демонстрирующий высокую эффективность в одной сфере, будет столь же надежен в другой. Однако этот эксперимент доказывает, что это опасное заблуждение.

Где применяется искусственный интеллект: