Страшно интересно  Чем ИИ напугал сильнейшие умы человечества

Чего испугались Маск и Возняк? Общественный резонанс получило открытое письмо, среди подписантов которого 1800 генеральных директоров и более 1500 профессоров (правда, почти все они представители других областей знания). Они призывают поставить на паузу разработку нейросетей следующего поколения, называемых общим искусственным интеллектом (AGI). Причины: «Использование ИИ несет дискриминацию и предвзятость, дезинформацию, концентрацию экономической мощи, неблагоприятное воздействие на рабочую силу и ухудшение окружающей среды». «Должны ли мы рисковать потерей контроля над нашей цивилизацией?» — ​провозглашает документ. Любопытно, что некоторые подписанты сами активно инвестируют в разработку AGI. Например, Илон Маск вкладывался в DeepMind Technologies, проект Vicarious, который «разрабатывает унифицированную алгоритмическую структуру, интеллект которой сможет сравниться с человеческим». Также Маск — ​один из родоначальников OpenAI. OpenAI, кстати, заявила, что следующее, пятое поколение ChatGPT выйдет уже в этом году.

Мы все умрем? Снова?

Самый радикальный протест против AGI озвучил американский специалист по искусственному интеллекту, исследователь проблем технологической сингулярности* Элиезер Юдковски.

В своей статье для Time он заявил, что не подписался под общим письмом, поскольку считает его требования недостаточными. Исследования надо не поставить на паузу, а запретить. И все разработки уничтожить.

«Если кто-то создаст слишком мощный ИИ, я ожидаю, что вскоре после этого погибнет каждый отдельный представитель человеческого вида и вся биологическая жизнь на Земле, — ​уверен Юдковски. — ​Мораторий на новые ИИ-проекты должен быть бессрочным и всемирным. Исключений быть не может, в том числе для правительств или военных. Если какая-то страна строит кластер графических процессоров для тренировки ИИ, будьте готовы уничтожить его. Риск обмена ядерными ударами пренебрежим по сравнению с опасностью ИИ».

Эта точка зрения не самая популярная, но имеет заметное число последователей. В России, по опросам ВЦИОМ, бунта машин опасается треть населения.

* Гипотетический момент в будущем, когда технологическое развитие становится неуправляемым и необратимым.

Что нам грозит в ближайшей перспективе?

Прежде всего потеря работы. Футуристы считали, что ИИ освободит людей от скучного труда, позволив им реализовать себя в творчестве.

Однако дело идет к тому, что именно творческие профессии пострадают от него первыми. Картины, созданные нейросетями, побеждают в художественных конкурсах, тексты ChatGPT продаются в виде книг. «Русская медиагруппа» запустила онлайн-радиостанцию Neuro Flow, весь контент которой создается нейросетью Mubert. Получается, ИИ вытеснит человека из творчества?

ИИ на наших глазах разделяет оксюморон «творческая профессия» на «творчество» и «профессию». Творчество останется людям, ремесло заберут нейросети. ИИ не способен на «творчество», то есть на создание новых концепций, парадигм и смыслов. Но в ремесле компиляции он, безусловно, превосходит человека на порядки. Для производства массового «художественного продукта» (не путать с творчеством) нередко используются компиляции готовых идей и шаблонов. ИИ не заменит художника и писателя, но лишит работы рисовальщика иллюстраций и сочинителя бульварного чтива.

Кто еще останется без работы?

Текстовики всех мастей — ​от SEO-райтеров и новостников до журнальных колумнистов.

Уже сейчас сетевые издания (например, холдинг городских СМИ «Москва Медиа») экспериментируют с ChatGPT. Поскольку большая часть контента массовых СМИ представляет собой рерайты, переводы и пересказы, то замена людей на ИИ неизбежна.

За ними идут «творческие ремесленники» — ​рекламные художники и дизайнеры, рисовальщики фонов и объектов для геймдева, иллюстраторы, стоковые фотографы, композиторы фоновой музыки, чтецы аудиокниг и так далее.

Их судьбу разделят некоторые программисты — ​Copilot и ChatGPT позволяют переложить на ИИ большую часть рутинных задач программирования. По словам генерального директора компании Microsoft Сатьи Наделлы, системой генерации кода GitHub Copilot уже воспользовалось больше миллиона человек.

Согласно прогнозу Goldman Sachs, наименьшее влияние нейросети окажут на рынок клининга.

Так, может, лучше и вправду притормозить?

Разработчики ИИ не остановятся, потому что на кону стоит большая выгода.

Тот же прогноз Goldman Sachs, который обещает потерю работы для 300 миллионов человек, обещает взамен 7 % прироста мирового ВВП. Новые сервисы и приложения с использованием нейросетей наполняют рынок, принося огромные деньги своим создателям и инвесторам. Предусмотрительный Microsoft фактически купил лидера технологии — ​компанию OpenAI — ​за 10 миллиардов, остальные глобальные корпорации стараются не отставать. ИИ стал «новой нефтью» для крупного инвестиционного капитала, и то, что кто-то из-за этого останется без работы, не волнует инвесторов. Так же, как опасения «бунта машин». Об этом говорит вся история человечества, начиная с прялки «Дженни».*

ИИ обещает высочайшую степень автоматизации: около двух третей рабочих мест в Европе и США будут автоматизированы в ближайшее время хотя бы частично.

* Spinning Jenny — ​прядильное устройство, созданное Джеймсом Харгривсом в 1764 году. Каждая прялка лишала работы пять прядильщиков, поэтому они разрушили дом изобретателя и уничтожили оборудование.

Я могу пользоваться ИИ уже сейчас?

Конечно, и речь не только о текстах из ChatGPT и картинках из Midjourney. ИИ уже интегрирован во множество информационных сервисов.

К ним относится генерация описаний товаров для магазинов, помощники службы поддержки, боты, создающие контент для социальных сетей, и так далее. Согласно исследованию, проведенному Imperva, еще в 2020 году 37,2 % пользователей соцсетей были ботами. Но наиболее актуальная и имеющая самые далеко идущие последствия коллаборация — ​это замена поисковиков на ChatGPT.

Первым отметилась Microsoft с ее Bing — ​теперь пользователь, задав вопрос, получает кроме обычной выдачи веб-страниц готовый ответ от ИИ. Это сильно экономит время — ​не надо ходить по ссылкам и изучать простыни текстов, пытаясь вычленить нужную информацию. А главное, не нужно смотреть рекламу!

В перспективе замена выдачи на генерацию радикально изменит бизнес таких поисковых гигантов, как Google и «Яндекс» — ​они больше не смогут манипулировать выдачей в пользу рекламодателя, а пользователи будут реже переходить на рекомендованные страницы.

Отлично, нас будут меньше обманывать!

К сожалению, скорее наоборот. На данный момент ИИ представляет собой сверхмощный генератор постправды.

Так ChatGPT чуть не уничтожил репутацию профессора права Джонатана Терли. На запрос «правоведы, обвинявшиеся в сексуальных домогательствах» он не только включил профессора в список, но и поставил ссылку на статью в Washington Post. Однако Терли никогда ни в чем не обвинялся и такой статьи не существовало.

ChatGPT зачастую весьма вольно обходится с фактами, произвольно перемежая реальную информацию со сгенерированной. Это приводит к появлению в Сети случайного недостоверного контента, заполняющего пустые места, оставшиеся от специально созданных фейков. Например, в интернете несложно найти репортажи с фотографиями катастрофы 2001 года, когда цунами и торнадо уничтожили северо-западную часть США. Такого цунами не было, все фото созданы нейросетью Midjourney, но пользователь, наткнувшись в Сети на статью, проживет остаток жизни, зная об этой трагедии.

Верификация фактов усложняется тем, что в поисковики теперь тоже встраивают ChatGPT.

А хорошие новости есть?

Вполне. Пришествие генеративных нейросетей — ​это не бедствие, постигшее нас за грех чрезмерного научного любопытства.

Они несут в нашу жизнь много интересного и положительного, открывая неожиданные новые возможности.

Хоть нейросети и вытесняют с рынка «художественных ремесленников», они позволяют реализовать множество творческих проектов, которые были раньше слишком дороги или сложны. Например, независимые художественные книги до недавнего времени почти не иллюстрировались, потому что работа художника слишком их удорожала. Однако Midjourney на глазах возвращает книгам картинки.

Озвучка книг профессиональным чтецом окупается только для массовых изданий, но нейросеть может озвучить ее даже для одного читателя.

Инди-игры больше не требуют дизайнера уровней и писателя диалогов, при помощи нейросетей игру может создать один энтузиаст. Для сравнения: над блокбастером Cyberpunk 2077 работали 50 штатных сотрудников и множество фрилансеров. Но и успешные проекты одного разработчика, такие как Blackout Z, Bright Memory, Phasmophobia, тоже находят своих поклонников.

Что будет происходить дальше?

­Вероятно, ИИ возьмет курс на самообучение. Речь о переходе к более глубоким способам тренировки ИИ, когда одна нейросеть учит другую.

Это метод Deep Learning, когда на действиях большой нейросети (teacher network, «нейросеть-учитель») обучается нейросеть меньшего размера (student network, «нейросеть-ученик»), которая тем самым тренируется воспроизводить поведение исходной сети при кратно меньших затратах. Например, новая нейросеть Vicuna показывает эффективность в 90 % от ChatGPT, при том, что это фактически любительский проект.

Deep Learning устранит из системы самую медленную ее часть — ​«разметчиков данных», то есть людей, «обучающих» ИИ. А главное, позволит удешевить процесс машинного обучения, создавать тысячи нейросетей под любые задачи и запускать их даже на домашних компьютерах.

Не менее интересным выглядит также свободный доступ ИИ к интернету для самообучения. Сейчас ChatGPT работает только с загруженными в него при обучении данными, но OpenAI обещает вскоре снять это ограничение.

ИИ радикально изменит нашу жизнь?

По существующим научным представлениям экономика развивается циклично, через технологические революции, в процессе которых происходит смена технологических укладов.

Человечество давно ждет перехода к новому укладу, надеясь, что количество новаций перейдет в качество жизни. Сейчас эта надежда возложена на ИИ — ​он должен стать той самой недостающей ступенькой.

Основания для таких прогнозов есть. Каждый технологический уклад характеризуется, во‑первых, новым базовым ресурсом, во‑вторых — ​пакетом технологий, эксплуатирующим этот ресурс, и в‑третьих — ​рынком, на котором этот технологический пакет востребован. Новый ресурс сейчас — ​вычислительные мощности, новые технологии — ​самообучающиеся алгоритмы, новый рынок — ​нейросетевые сервисы.

Для смены уклада нужна замыкающая технология, появление которой инициирует новую технологическую революцию. Именно такой замыкающей технологией, возможно, станет для нас ИИ.

Читайте также материал про этические подходы к осмыслению такого явления, как искусственный интеллект: