Amazon поручил увольнение сотрудников искусственному интеллекту Система в автоматическом режиме оценивает труд работников

Оказалось, что эффективность работы сотрудников Amazon на складах компании еще с 2019 года оценивает искусственный интеллект: специально разработанная компьютерная система отслеживает продуктивность каждого работника и при необходимости выносит ему предупреждение о низком качестве работы или медлительности. Если человек не исправляется в ближайшее время, алгоритм может уволить человека без участия менеджера — система выполняет все необходимые действия в системе электронного документооборота и сотруднику на электронную почту просто приходит соответствующее уведомление.

Ежегодно под увольнения, инициированные искусственным интеллектом, попадают несколько тысяч работников — всего на складских комплексах Amazon трудятся более 125 тысяч человек. Многие сотрудники выражают категорическое несогласие с решениями компьютерного алгоритма, который, по их мнению, считает работников живыми роботами, а правозащитники справедливо считают такой подход бесчеловечным. Проблема стала еще масштабнее, когда система начала отслеживать эффективность аутсорсинговых водителей: речь идет о приложении Flex, с помощью которого частники могут подключиться к доставкам из интернет-магазина.

Программа была установлена почти три миллиона раз только в США, так что счет уволенных искусственным интеллектом сотрудников может идти на десятки тысяч. Применяемые в Flex алгоритмы контролируют каждый шаг — прибыл ли водитель на загрузку в заявленное время, где оставил посылку и завершил ли заказ в срок. Человек, работа которого покажется системе неэффективной, получает уведомление о расторжении контракта. На алгоритм жалуются многие бывшие сотрудники Amazon, утверждая, что водителя увольняли даже если тот, к примеру, не смог попасть на территорию закрытого жилого комплекса.