Microsoft запретил чат-боту Bing говорить о чувствах Но ослабил ограничения

В ходе тестирования чат-бота Bing пользователи замечали некоторые странности в поведении искусственного интеллекта. К примеру, чат-бот мог имитировать тон собеседника, отвечать излишне эмоционально, делать странные вывода и даже впадать в депрессию. После этого Microsoft установил новые правила общения, которые ограничили количество взаимодействий с чат-ботом до пяти обращений за сеанс и 50 запросов в день.

В результате тестировщики заметили, что чат-бот стал отвечать на вопросы заметно проще и начал часто использовать фразу «давайте перейдем к новой теме». Кроме того, разработчики запретили искусственному интеллекту говорить о своих чувствах и пускаться в размышления о себе. Зато число доступных взаимодействий с чат-ботом увеличили до шести обращений за сеанс и до 60 в день.

Постепенно лимит будет увеличен до 100 сеансов в день, а пользователям станут доступны новые режимы общения: «точный» (более короткие и приближенные к теме запроса ответы), «креативный» (более длинные ответы в разговорном стиле), а также «сбалансированный» (включающий элементы первых двух режимов).

Здесь мы писали про чат-бота, который способен копировать умерших людей: