Сильный искусственный интеллект   Что это такое и когда появится

Могли ли в OpenAI сделать сильный искусственный интеллект? Зависит от того, что именно мы понимаем под сильным ИИ. Википедийное определение слишком широкое и позволяет всем участникам хайпа — ​разработчикам, венчурным инвесторам, СМИ — ​приукрашивать реальность в свою пользу. Все более-менее согласны с тем, что своей универсальностью сильный ИИ подобен человеческому. Тогда не мешало бы условиться, какие требования мы предъявляем к самим людям. Отвечать на вопросы в чате — ​это один уровень. Управлять автомобилем, доставлять посылки, укладывать асфальт — ​другой. Ходить по Москве в теле робота и решать какие-то вопросы — ​третий. Наконец, со­здать новый жанр в искусстве или написать симфонию — ​четвертый.

Определить «общечеловеческий уровень» интеллекта сложно, потому что современное общество практически запрещает нам его измерять — ​а следом и изучать. Измерения приводят к сравнению, а это уже табу. Когда Джеймс Уотсон заикнулся о том, что уровень интеллекта может коррелировать с расой, он чуть не лишился карьеры — ​и неважно, что он нобелевский лауреат. В статье 2014 года психолог Эрл Хант указал, что из шести ведущих американских вузов с программами по психологии ни один не изучает интеллект — ​от греха подальше.

Пока мы стесняемся мериться интеллектами, разработчики натаскивают ИИ на решение «сложных человеческих задач» — ​учат его играть в шахматы, словно механического турка, сдавать экзамен на адвоката или сочинять рэп. Чтобы получать венчурные деньги, ИИ-стартапам необходимо демонстрировать эффектный «результат» в кратчайшие сроки.

Тот ИИ, который сможет читать рэп, водить машину и выступать в суде, и будет универсальным, разве не так?

Такой подход может направить разработчиков по ложному следу, особенно тех, у которых есть сто миллиардов долларов. Когда у тебя есть сто миллиардов долларов, ты мыслишь немного не так, как обычные люди. К примеру, у певицы Мэрайи Кери есть специальный сотрудник: он подает напитки, чтобы она пила из трубочки. Даже над самыми мелкими проблемами крупные корпорации предпочитают не думать, а просто закидывать их деньгами. В итоге половина людей в развитых странах занята тем, что Дэвид Гребер называл «буллшит джобс».

Применительно к ИИ принцип работает так. Со стороны рынка или даже сообщества экспертов поступают запросы: ваша модель должна уметь водить машину, сочинять сказки, управлять бизнесом. Разработчики оперативно добавляют в программу новые функции, демонстрируют результат — ​и при этом не делают внутри модели никаких структур, способных порождать интеллект. Так поступают все крупные компании: российские, американские, китайские.

Однако бесконечная сумма подпрограмм никогда не сравняется с универсальным интеллектом. Любой айтишник знает, что с ростом сложности системы затраты на ее поддержку растут квадратично или еще быстрее. Можно до бесконечности пытаться совместить перехватчик, разведчик и стелс-бомбардировщик в одной машине, но дешевле и эффективнее будет сделать три разных самолета.

Человек развил интеллект не потому, что по очереди учился разным вещам. Есть базовые принципы, они породили базовые механизмы, благодаря которым мы можем делать то, что мы делаем, — ​мыслить. Были буквально две-три функции, не пятьдесят и не сто, которые породили все наши способности.

Получается, чтобы создать сильный искусственный интеллект, нужно подражать человеческому?

Это не единственный, но, вероятно, кратчайший путь. Который практически никто не выбирает. Да, все разработчики, конечно же, прочитали книги по когнитивной психологии, посмотрели на животных — ​что там у насекомых, у ящериц, у осьминогов. Но полноценное понимание, то есть теорию или модель человеческого интеллекта, нам еще только предстоит сформировать.

На протяжении двух тысяч лет, параллельно с развитием таких институтов, как наука или письмо, философы от Сократа и Платона до Эдмунда Гуссерля пытались понять, что происходит у людей в голове, что делает их разумными. В XX веке вместе с компьютерной революцией началась когнитивная революция. Фрейд заложил основы современной психологии.

Специализируясь в своих областях и темах, современные ученые пришли к пониманию отдельных принципов, которые в совокупности образуют механизм человеческого мышления. Что-то понял «отец нанотехнологий» Эрик Дрекслер, который в какой-то момент заинтересовался ИИ. Что-то понял Михай Чиксентмихайи, изучавший креативность, творчество.

Есть много кусочков, из которых уже сейчас можно сложить цельное понимание, как работает интеллект — ​у человека, у коллектива, у машинных систем, у гибридных систем. Но данная проблема является даже не мультидисциплинарной, а трансдисциплинарной, поэтому в мире есть мало людей, способных такое расколоть. Нужна иная экономика: не поощрять стартапы, а строить нормальные институты (неважно, государственные или частные), в которых будет возможен системный подход.

Как может работать человеческий интеллект?

Ответ на этот вопрос еще в 1976 году дали пионеры ИИ Саймон и Ньюэлл. У них была гипотеза про физические символьные системы: если сделать машину, которая сможет обрабатывать текст, то она будет интеллектуальна. На мой взгляд, это 90 % ответа, что подтверждается практикой на примере ChatGPT. Сложность в том, что все современные ИИ-проекты ориентированы на работу с текстом и картинками, а для мышления важны не только они. Более точным будет такое определение: интеллект — ​это система преобразования структур.

Клод Шеннон создавал примитивные языковые модели (предки современных LLM) полвека назад. Он делал простой статистический анализ текста, и это уже выглядело любопытно. Сегодняшние LLM работают не со словами и даже не с предложениями. Механизм Attention, созданный Google, видит множественные связи в текстовых структурах, включающих несколько предложений и отстоящих далеко друг от друга. За счет этого ChatGPT удерживает контекст разговора. «Окно внимания» у современных LLM стало больше, но принцип работы у них тот же, что был у Шеннона. ChatGPT все еще не слишком понимает, о чем говорит.

Механизм понимания тоже работает со структурами, но с другими: не только текстовыми, но и концептуальными. Они описаны в любом учебнике психологии: это схемы, фреймы, списки. Когда человек заходит в комнату, он заранее ожидает, что там есть стол, стул, стены, выключатель у двери. Это схема, она натренирована и может быть легко описана. Мы можем работать с многоуровневой иерархией систем, представлять себе весь мир от мультивселенной до бозонов.

Фреймворк для работы с концептуальными структурами описал в 1962 году Дуглас Энгельбарт. Хоть этот документ и не секретный, мало кто способен его нормально понять, принять и интегрировать. У людей глаза стекленеют, они игнорируют какие-то куски, которые просто не помещаются им в голову.

Почему к LLM до сих пор не добавили концептуальные уровни?

Пока что это никому не интересно, кроме философов. Рынок ждет от ИИ видимых результатов, а то, что происходит у него внутри, является неважным. У человека же есть внутренний мир, который он преобразует в процессе мышления, есть способность в голове какие-то вещи вертеть, обрабатывать, в том числе во сне.

Способность создать альтернативную реальность в собственном мозгу — ​это ментальная симуляция. Она лежит в основе того, что Даниэль Канеман называл второй системой. Когда получаешь информацию через органы чувств и автоматически на нее реагируешь — ​это первая система. Так, первосистемно, работает ИИ: ты ему что-то даешь, он выдает реакцию, как собака Павлова. Вторая система работает, когда мысленно создаешь другой мир. Подходишь к пропасти и думаешь: что, если бы здесь был мост? И представляешь, как устроен этот мост, как поедут машины, как это повлияет на экономику региона.

Экономика — ​абстрактное понятие, то есть концепция, оторванная от физической реальности. Абстрактное мышление формируется у человека постепенно. Жан Пиаже изучал этот процесс, экспериментируя с детьми, Эллиот Джекс описывал его применительно к взрослым. С возрастом становятся доступны более высокие уровни абстракции. Человек начинает мыслить такими категориями, как системы, сценарии, стратегии.

Абстрактное мышление позволяет предсказывать будущее. Предположим, навстречу автомобилю выходит рабочий в оранжевой каске. Человеку понятно, что впереди ремонтные работы (абстрактное понятие). Чтобы то же самое понял ИИ, его пришлось бы отдельно тренировать по сотне разных визуальных признаков. У человека есть понимание про мир в целом: даже тот, кто ни разу не путешествовал, примерно представляет, что такое Монмартр или стрелка Васильевского острова.

Внутри нейросети есть множество слоев, или уровней. Может ли в них зародиться сознание?

Можем попробовать подождать несколько сотен тысяч лет и посмотреть, во что эволюционирует нейросеть. Но даже в этом случае сперва нужно дать ей три ключевых механизма, которые описал Дарвин: наследственность, изменчивость и естественный отбор. Сомневаюсь, что кто-то запрограммировал их в ChatGPT.

Но и этого может быть мало. Чтобы мыслить, человеку нужна культура. Если ребенка не воспитывать, у него не разовьется абстрактное мышление, его разум не получит инструментов, необходимых для творчества. Чисто биологически люди пятьдесят тысяч лет назад могли построить технологическую цивилизацию и полететь в космос. Могли, но не сделали: им не хватало культурных инструментов мышления, которые зародились в Древней Греции, когда появились философия, логика, письменность.

Чтобы взрастить полноценный искусственный интеллект, нам необходимо понять еще и культурные механизмы. Ричард Докинз в 1976 году предложил чрезвычайно модное сегодня понятие мема как единицы значимой культурной информации. Есть попытки на основе этого концепта построить теорию культуры в целом.

Когда появится человекоподобный ИИ?

Предположим, нам удалось преодолеть все организационные преграды и системно взяться за работу: устранить значимые пробелы в знаниях, создать комплексную модель человеческого интеллекта и построить на ее основе ИИ. В этом случае за пять лет мы сможем создать систему, способную полноценно руководить бизнесом — ​то есть решать относительно узкую и прикладную задачу, но требующую универсальных мыслительных способностей. Для этого есть готовые алгоритмы, языки, методы. Нужно лишь собрать из разрозненных фрагментов единое целое.

Если говорить про полноценное глубокое мышление, аналог человеческого, то на разработку уйдет порядка пятнадцати лет. Собирая знания, такой ИИ сможет создавать внутри себя модель прочитанного и запускать процессы корректировки этой модели — ​убирать противоречия, заполнять белые пятна, уточнять теории. Он сможет инициировать диалог, будет ставить перед собой цели и строить стратегии их достижения.

Для обывателя сильный ИИ будет выглядеть так же, как ChatGPT: чат-бот, прочитавший весь интернет и отвечающий на любой вопрос. Разница лишь в том, что отвечать он будет правильно.

Читайте также, что такое искусственный интеллект: