Ограничения искусственного интеллекта: что он еще не умеет?

Последние достижения в области искусственного интеллекта могут заставить задуматься о том, что машины превосходят человека и в будущем поработят нас. Однако ученые-когнитивисты хорошо знают об ограничениях искусственного интеллекта и понимают, что наш мозг обладает уникальными возможностями, которые пока не могут быть воспроизведены машинами.

По словам нейробиолога Станисласа Дина, наш мозг обладает высокой адаптивностью и способен быстро расставлять приоритеты и извлекать общие, логические и явные принципы из получаемой информации. В отличие от этого, современным системам искусственного интеллекта все еще не хватает некоторых критических функций мозга, которыми обладает человек и которые позволяют нам учиться и адаптироваться к новым ситуациям.

Проницательность Дина в отношении уникальных характеристик человеческого обучения подробно изложена в отрывке из его книги «Как мы учимся», которая была опубликована издательством T&R. В ней он определяет функции мозга, которые в настоящее время отсутствуют в искусственных системах, и подчеркивает необходимость продолжения исследований для преодоления разрыва между возможностями человеческого и машинного обучения.

Большинство искусственных нейронных сетей воспроизводят только самые первые этапы обработки информации — анализ изображений, который зрительные области нашего мозга выполняют менее чем за пятую часть секунды. Алгоритмы глубокого обучения далеко не так глубоки, как утверждают некоторые. По словам Джошуа Бенджио, одного из изобретателей алгоритмов deep learning, такие системы в основном фиксируют поверхностные, статистические закономерности в данных, а не абстрактные концепции высокого уровня. Например, чтобы распознать объект, алгоритмы глубокого обучения часто полагаются на некоторые очевидные особенности изображения — скажем, определенный цвет или форму. Измените эти детали, и производительность алгоритма резко упадет.

Современные конволюционные нейронные сети не способны распознать, что составляет суть объекта. Они не понимают, что стул остается стулом независимо от того, сколько у него ножек (четыре или только одна) или из чего он сделан (стекло, металл или пластик). Склонность обращать внимание на поверхностные признаки делает эти сети подверженными ошибкам. Было написано много статей о том, как обмануть нейронную сеть: возьмите банан, измените несколько пикселей или прикрепите к нему определенную наклейку. Вуаля! — Нейронная сеть будет думать, что это тостер!

Конечно, человек, которому на долю секунды показали изображение, иногда совершает те же ошибки, что и машина, и может принять собаку за кошку. Однако, если дать ему немного больше времени, он тут же исправит ошибку. В отличие от компьютера, у нас есть возможность подвергнуть сомнению свои убеждения и перефокусировать внимание на тех аспектах изображения, которые не согласуются с первым впечатлением. Этот второй анализ, сознательный и разумный, задействует наши общие способности к рассуждению и абстрагированию.

Искусственные нейронные сети добились значительных успехов в последние годы, но их возможности остаются ограниченными по сравнению с человеческим мозгом. Хотя эти сети прекрасно справляются с анализом изображений, воспроизводя функции зрительных областей нашего мозга, они не в состоянии охватить весь спектр когнитивных процессов человека.

По словам Джошуа Бенджио, ведущей фигуры в разработке алгоритмов глубокого обучения, эти системы в основном фиксируют поверхностные, статистические закономерности в данных, а не абстрактные концепции высокого уровня. Например, чтобы распознать объект, алгоритмы глубокого обучения полагаются на конкретные особенности изображения, такие как цвет или форма. Изменение этих деталей может привести к резкому сбою алгоритма, при этом современные сверточные нейронные сети не смогут понять суть объекта, например, распознать стул независимо от количества ножек или материала.

Такая тенденция фокусироваться на поверхностных признаках делает эти сети восприимчивыми к ошибкам, и во многих статьях подробно описывается, как легко обмануть нейронную сеть простыми изменениями изображения, например, изменить несколько пикселей или прикрепить наклейку.

Хотя люди также могут ошибаться при быстром просмотре изображения, у нас есть возможность исправить свои ошибки и подвергнуть сомнению наши первоначальные впечатления. В отличие от компьютеров, мы можем перефокусировать свое внимание на тех аспектах изображения, которые не совпадают с нашим первым впечатлением, задействуя наши общие рассуждения и способности к абстрагированию.

Одним из важнейших аспектов, которым искусственные нейронные сети склонны пренебрегать, является тот факт, что человеческое обучение включает в себя нечто большее, чем просто совершенствование фильтра распознавания образов. Оно создает концептуальную основу окружающего нас мира.

По общему мнению, существующие нейронные сети слишком медлительны. Им требуется бесчисленное количество точек данных — тысячи, миллионы, даже миллиарды — чтобы понять нюансы той или иной области. Эта медлительность подтверждается эмпирическими данными, например, нейронной сети DeepMind требуется не менее 900 часов для достижения приемлемой производительности в играх Atari, в то время как человеку требуется всего 2 часа.

Еще один пример, когда эффективность человека превосходит все ожидания, — это изучение языка. Эммануэль Дюпу, психолингвист, считает, что французские дети в большинстве семей получают от 500 до 1000 часов речи в год, что более чем достаточно, чтобы свободно владеть языком, даже такими сложными фразами, как «семьдесят два» или «пожалуйста». Между тем, племя цимане в боливийской Амазонии слышит всего около 60 часов речи в год, но при этом они владеют своим родным языком.

В отличие от них, самые передовые компьютерные системы от Apple, Baidu и Google требуют от 20 до 1000 раз больше данных, чтобы достичь хотя бы малейшего уровня языковой компетенции. Когда дело доходит до обучения, человеческий мозг остается непревзойденным. Машины могут поглощать огромные объемы информации, но мы более эффективно ее обрабатываем. Другими словами, мы, люди, извлекаем максимум знаний из минимума данных.

Люди уникальны в своей способности охотно делиться информацией друг с другом, в основном с помощью речи. Эта способность все еще ускользает от современных искусственных нейронных сетей. В искусственных моделях знания закодированы и рассеяны среди миллионов синаптических чешуек, что делает их скрытыми и неявными. Эта форма знаний не может быть выборочно извлечена и передана другим. В отличие от этого, люди могут явно передавать высокоуровневую информацию, которая достигает нашего сознания. Сознательное знание тесно связано со способностью выражать его словами: когда мы постигаем какое-либо явление, в нашем языке возникает мысленная формула, которую мы затем можем передать другим с помощью речи. Беспрецедентная эффективность, с которой люди делятся знаниями с другими, используя минимум слов, например, «Поверните направо по маленькой улочке за церковью, чтобы попасть на рынок», остается непревзойденной как в животном, так и в компьютерном мире.

По мнению когнитолога Дугласа Хофштадтера, даже такая, казалось бы, простая вещь, как распознавание буквы “А”, представляет собой серьезную проблему для искусственного интеллекта. Хотя это утверждение может быть и шутливым, оно подчеркивает важную истину: люди прекрасно справляются с абстрактными понятиями. Этот уникальный навык лежит в основе повседневного феномена капчи — коротких последовательностей букв, которые используются на веб-сайтах для проверки того, что вы человек, а не машина.

На протяжении многих лет капчи успешно ставили в тупик машины, но в последние годы компьютерная наука добилась значительных успехов. В 2017 году была разработана искусственная система, способная распознавать капчи почти на том же уровне, что и люди. Этот впечатляющий подвиг был достигнут путем имитации человеческого мозга несколькими способами, извлечения скелета каждой буквы и использования статистического анализа для проверки ее абстрактной идеи по имеющемуся изображению. Однако, несмотря на сложность этого алгоритма, он применим только к капчам. С другой стороны, наш мозг использует способность распознавать абстракции во всех областях повседневной жизни.

Человеческий мозг — это чудо природы. Он обладает невероятной способностью раскрывать универсальные принципы, лежащие в основе конкретных случаев. От математики и языка до науки и музыки — наш мозг способен вывести абстрактные правила, которые можно применять в различных контекстах. Например, мы учимся складывать два числа и, освоив этот навык, можем применять его к любому набору чисел, каким бы большим он ни был.

Дети в возрасте пяти-шести лет могут даже обобщать понятия. Они понимают, что за каждым числом следует другое число, и делают вывод, что последовательность целых чисел бесконечна — понятие, которое до сих пор поражает многих из нас. Это исключительная способность к абстракции, которая может заставить трепетать даже самых опытных математиков.

Человеческий мозг обладает удивительной способностью выводить сложные формулы и понятия на своем собственном ментальном языке. Возьмем, к примеру, понятие бесконечного множества, которое может быть выражено с помощью таких абстрактных функций, как отрицание и квантификация. Эту способность мыслить абстрактно на символическом языке некоторые приписывают теории «языка мышления», предложенной американским философом Джерри Фодором.

Согласно Фодору, этот язык мысли следует систематическим правилам комбинирования символов, что позволяет рекурсивное мышление и создание новых концепций. Одна из таких концепций, теория трансфинитных чисел, была сформулирована математиком Георгом Кантором в его исследовании бесконечного.

Интересно, что способность бесконечно манипулировать конечным набором инструментов и понятий является отличительной чертой человеческого мышления, по мнению немецкого философа Вильгельма фон Гумбольдта. Однако воспроизведение этого типа абстрактного мышления в искусственных моделях представляет собой сложную задачу, поскольку требует освоения совершенно иной формы обучения, которая опирается на уже существующие правила и рамки.

По сути, этот тип обучения сродни программированию, где целью является выбор наиболее простой и правдоподобной внутренней формулы из имеющегося набора вариантов. Хотя был достигнут определенный прогресс в разработке моделей, способных обучаться абстрактным математическим правилам, истинная сложность и многогранность человеческого мышления остается загадкой.

Когда дело доходит до представления абстрактных фраз, формул, правил и теорий, которые человеческий мозг использует для моделирования мира, современные нейронные сети не справляются. Другими словами, эти сети в основном не способны отразить весь спектр человеческого мышления.

В том, как люди воспринимают язык, есть нечто уникальное, что еще не до конца изучено современной нейробиологией. Эта особенность отличает нас от других видов животных. Согласно исследованиям, люди — единственные приматы, обладающие способностью представлять наборы символов с помощью сложного, древовидного синтаксиса. Когда человеку предъявляется последовательность звуков, его мозг может мгновенно построить теорию о лежащей в ее основе абстрактной структуре. В отличие от них, обезьяны могут замечать различия в последовательностях, но, похоже, не объединяют эти знания в единую формулу.

Изучая мозговую активность обезьян, исследователи заметили, что, хотя отдельные нейронные сети реагируют на числа и последовательности, в области, отвечающей за речь у людей, нет интегрированной структуры активности. В результате обезьяне потребовались бы десятки тысяч попыток, чтобы понять, как изменить порядок последовательности, в то время как четырехлетний ребенок может понять эту концепцию всего после пяти попыток.

Даже младенцы, которым всего несколько месяцев от роду, демонстрируют способность кодировать внешний мир с помощью абстрактных и систематических правил — способность, которой не обладают классические искусственные нейронные сети и другие виды приматов.

Когда мы осваиваем новый навык, например, сложение двух чисел, он становится ценным дополнением к нашему умственному инструментарию. Мы можем сразу же применить его для решения целого ряда задач, от расчета счета в ресторане до проверки налоговой декларации. Более того, мы способны комбинировать этот новый навык с другими, которые мы уже освоили, чтобы решать еще более сложные задачи.

Однако, несмотря на успехи, достигнутые в области искусственного интеллекта, современные нейронные сети все еще с трудом справляются с этим уровнем гибкости. Знания, которые они получают, часто изолированы в скрытых, недоступных связях, что затрудняет их применение для решения более сложных задач.

Отсутствие гибкости в искусственном интеллекте — это проблема, над решением которой работают исследователи. Способность комбинировать и повторно использовать приобретенные навыки является отличительной чертой человеческого интеллекта, и достижение такого уровня гибкости в ИИ может привести к значительному прогрессу в различных областях — от медицины до финансов.

Искусственные модели, в отличие от их нейронной системы человека, не обладают способностью интегрировать ранее приобретенные навыки и применять их для решения новых задач. Другими словами, они не могут перекомбинировать свои знания для разработки новых стратегий решения проблем.

Современный искусственный интеллект называют технологическим чудом, способным выполнять задачи с поразительной точностью и скоростью. Однако при ближайшем рассмотрении обнаруживается ограничение, которое долгие годы ставило в тупик исследователей ИИ — узкая специализация.

Возьмем, к примеру, AlphaGo. Способность этой программы перехитрить любого чемпиона по игре в Го ничем не примечательна, однако она не может перенести свои навыки на аналогичную игру, например, на доску 15×15. Причина этого проста — ИИ не хватает способности обобщать свои таланты и применять их в других областях. В отличие от этого, способность человеческого мозга к обучению предполагает преобразование знаний в явную форму, которую можно повторно использовать, комбинировать и передавать другим.

Это возможно благодаря одному уникальному аспекту человеческого мозга, тесно связанному с речью. Как однажды предположил философ Рене Декарт, человеческий разум работает на двух системах обучения, причем вторая иерархически выше первой и основана на правилах и символах. Эта система имеет решающее значение для нашей способности рассуждать и делать логические выводы, раскрывающие фундаментальные правила в той или иной области.

Ранние стадии обучения человеческого мозга имеют сходство с современными искусственными нейронными сетями, поскольку наша зрительная система фильтрует поступающие изображения и распознает часто встречающиеся конфигурации. Однако, когда мы переходим на второй уровень интеллекта, стиль обработки информации кардинально меняется, становясь похожим на рассуждение.

Создание машин, способных получить доступ к этому уровню интеллекта, — сложнейшая задача, которая сегодня не под силу даже самым передовым алгоритмам машинного обучения. Остается вопрос, что именно происходит, когда человек обучается на этом втором уровне, и почему это не удается ИИ?