Понять нейросети. Краткий словарик новых слов о ИИ

Вы уже разобрались с искусственным интеллектом?

За последние шесть месяцев чат-боты, такие как ChatGPT, и генераторы изображений, такие как Midjourney, быстро стали культурным феноменом.

Мы уже писали подробно статью на тему: “ЯЗЫКОВАЯ МОДЕЛЬ. ЧТО ТАКОЕ БОЛЬШИЕ ЯЗЫКОВЫЕ МОДЕЛИ”. 

В этом руководстве для начинающих мы отважимся выйти за рамки чат-ботов, чтобы открыть для себя различные виды ИИ и увидеть, какую роль эти странные новые цифровые существа уже играют в нашей жизни.

Ключом ко всему машинному обучению является процесс, называемый обучением , когда компьютерной программе предоставляется большой объем данных — иногда с метками, объясняющими, что это за данные, — и набор инструкций.

Инструкция может быть примерно такой: «найти все изображения, содержащие лица» или «классифицировать эти звуки».

Затем программа будет искать закономерности в данных, которые ей были предоставлены для достижения этих целей.

Возможно, потребуется некоторая корректировка по пути — например, «это не лицо» или «эти два звука разные», — но то, что программа узнает из данных и полученных подсказок, становится моделью ИИ — и учебный материал заканчивается. 

Один из способов увидеть, как этот процесс обучения может создать различные типы ИИ, — это подумать о разных животных.

За миллионы лет естественная среда привела к тому, что у животных развились определенные способности, точно так же миллионы циклов, которые ИИ совершает с помощью своих обучающих данных, будут определять способ его развития и приводить к специализированным моделям ИИ.

Итак, каковы примеры того, как мы научили ИИ развивать различные навыки?

Думайте о чат-боте как о попугае. Это мимик, который может повторять услышанные слова с некоторым пониманием их контекста, но без полного понимания их значения.

Чат-боты делают то же самое, хотя и на более сложном уровне, и находятся на грани изменения нашего отношения к письменному слову.

Но откуда эти чат-боты умеют писать?

Это тип ИИ, известный как большие языковые модели (LLM), и они обучаются на огромных объемах текста.

LLM может рассматривать не только отдельные слова, но и целые предложения и сравнивать использование слов и фраз в отрывке с другими примерами во всех своих обучающих данных.

Используя эти миллиарды сравнений между словами и фразами, он может прочитать вопрос и сгенерировать ответ — как предсказательный обмен текстовыми сообщениями на вашем телефоне, но в массовом масштабе.

Удивительная особенность больших языковых моделей заключается в том, что они могут изучать правила грамматики и определять значение слов самостоятельно, без помощи человека.

Если вы использовали Alexa, Siri или любую другую систему распознавания голоса, значит, вы использовали ИИ.

Представьте себе кролика с его большими ушами, приспособленными для улавливания мельчайших изменений звука.

ИИ записывает звуки, когда вы говорите, удаляет фоновый шум, разделяет вашу речь на фонетические единицы — отдельные звуки, из которых состоит произнесенное слово, — а затем сопоставляет их с библиотекой языковых звуков.

Затем ваша речь превращается в текст, в котором любые ошибки прослушивания могут быть исправлены до того, как будет дан ответ.

Этот тип искусственного интеллекта известен как обработка естественного языка.

Это технология, стоящая за всем: от того, что вы говорите «да», чтобы подтвердить транзакцию по телефону, до того, чтобы попросить свой мобильный телефон сообщить вам о погоде на следующие несколько дней в городе, в который вы едете.

Ваш телефон когда-нибудь собирал ваши фотографии в папки с такими названиями, как «на пляже» или «вечеринки»?

Тогда вы использовали ИИ, не осознавая этого. Алгоритм ИИ обнаружил шаблоны на ваших фотографиях и сгруппировал их для вас.

Эти программы были обучены путем просмотра горы изображений, помеченных простым описанием.

Если вы дадите ИИ, распознающему изображения, достаточно изображений с пометкой «велосипед», в конце концов он начнет понимать, как выглядит велосипед и чем он отличается от лодки или автомобиля.

Иногда ИИ обучают обнаруживать крошечные различия в похожих изображениях.

Вот как работает распознавание лиц, обнаруживая тонкую взаимосвязь между чертами вашего лица, которая делает его отличным и уникальным по сравнению с любым другим лицом на планете.

Алгоритмы того же типа были обучены медицинским сканированиям для выявления опасных для жизни опухолей и могут обрабатывать тысячи сканирований за то время, которое потребовалось бы консультанту, чтобы принять решение только по одному.

Недавно распознавание изображений было адаптировано в моделях ИИ, которые научились хамелеоноподобной силе манипулирования узорами и цветами.

Эти ИИ, генерирующие изображения, могут превращать сложные визуальные паттерны, которые они собирают из миллионов фотографий и рисунков, в совершенно новые изображения.

Вы можете попросить ИИ создать фотографическое изображение того, чего никогда не было — например, фото человека, идущего по поверхности Марса.

Или вы можете творчески направить стиль изображения: «Сделайте портрет английского футбольного менеджера, нарисованный в стиле Пикассо».

Последние ИИ начинают процесс создания этого нового изображения с набора случайно окрашенных пикселей.

Он ищет в случайных точках любой намек на шаблон, который он изучил во время обучения — шаблоны для построения различных объектов.

Эти паттерны постепенно улучшаются путем добавления дополнительных слоев случайных точек, сохраняя точки, которые развивают паттерн, и отбрасывая другие, пока, наконец, не появится сходство.

Разработайте все необходимые шаблоны, такие как «поверхность Марса», «астронавт» и «прогулка» вместе, и у вас получится новый образ.

Поскольку новое изображение построено из слоев случайных пикселей, в результате получается то, чего раньше никогда не было, но оно по-прежнему основано на миллиардах паттернов, полученных из исходных обучающих изображений.

Сейчас общество начинает задумываться о том, что это значит для таких вещей, как авторское право и этика создания произведений искусства, основанных на упорном труде настоящих художников, дизайнеров и фотографов.

Беспилотные автомобили были частью разговоров об ИИ на протяжении десятилетий, и научная фантастика закрепила их в массовом воображении.

Самоуправляемый ИИ известен как автономное вождение, и автомобили оснащены камерами, радарами и лазерными датчиками.

Подумайте о стрекозе с обзором на 360 градусов и датчиками на крыльях, которые помогают ей маневрировать и вносить постоянные коррективы в полете.

Аналогичным образом модель ИИ использует данные своих датчиков для идентификации объектов и выяснения, движутся ли они, и если да, то что это за движущийся объект — другой автомобиль, велосипед, пешеход или что-то еще.

Тысячи и тысячи часов обучения, чтобы понять, как выглядит хорошее вождение, позволили ИИ принимать решения и действовать в реальном мире, чтобы управлять автомобилем и избегать столкновений.

Алгоритмы прогнозирования, возможно, в течение многих лет изо всех сил пытались справиться с часто непредсказуемым характером людей-водителей, но беспилотные автомобили теперь собрали миллионы миль данных о реальных дорогах. В Сан-Франциско уже возят платных пассажиров.

Автономное вождение также является публичным примером того, как новые технологии должны преодолевать не только технические препятствия.

Государственное законодательство и правила техники безопасности, а также глубокое беспокойство по поводу того, что происходит, когда мы передаем управление машинам, все еще являются потенциальными препятствиями на пути к полностью автоматизированному будущему на наших дорогах.

Некоторые ИИ просто имеют дело с числами, собирая и комбинируя их в объеме, чтобы создать рой информации, продукты которого могут быть чрезвычайно ценными.

Скорее всего, уже существует несколько профилей ваших финансовых и социальных действий, особенно онлайн, которые можно использовать для прогнозирования вашего поведения.

Ваша карта лояльности супермаркета отслеживает ваши привычки и вкусы в вашем еженедельном магазине. Кредитные агентства отслеживают, сколько у вас есть в банке и сколько вы должны по кредитным картам.

Кинопоиск и Ozon отслеживают, сколько часов контента вы просматривали прошлой ночью. Ваши учетные записи в социальных сетях знают, сколько видео вы прокомментировали сегодня.

И это не только вы, эти цифры существуют для всех, что позволяет моделям ИИ анализировать их в поисках социальных тенденций.

Эти модели ИИ уже формируют вашу жизнь: от помощи в принятии решения о том, можете ли вы получить кредит или ипотеку, до влияния на то, что вы покупаете, выбирая, какую рекламу вы видите в Интернете.

Можно ли объединить некоторые из этих навыков в единую гибридную модель ИИ?

Это именно то, что делает одно из самых последних достижений в области ИИ.

Он называется мультимодальным ИИ и позволяет модели просматривать различные типы данных, такие как изображения, текст, аудио или видео, и выявлять новые закономерности между ними.

Этот мультимодальный подход был одной из причин огромного скачка в возможностях ChatGPT, когда его модель ИИ была обновлена ​​с GPT3.5, который обучался только на тексте, до GPT4, который также обучался с изображениями.

Идея единой модели ИИ, способной обрабатывать любые данные и, следовательно, выполнять любые задачи, от перевода между языками до разработки новых лекарств, известна как общий искусственный интеллект (ИИК).

Для некоторых это конечная цель всех исследований искусственного интеллекта; для других это путь ко всем этим научно-фантастическим антиутопиям, в которых мы высвобождаем разум, настолько выходящий за рамки нашего понимания, что мы больше не в состоянии его контролировать.

До недавнего времени ключевой процесс обучения большинства ИИ был известен как «обучение с учителем».

Огромные наборы обучающих данных были обозначены людьми, и ИИ попросили выяснить закономерности в данных.

Затем ИИ попросили применить эти шаблоны к некоторым новым данным и дать отзыв о их точности.

Например, представьте, что вы даете ИИ дюжину фотографий — шесть помечены как «автомобиль» и шесть помечены как «фургон»

Затем скажите ИИ разработать визуальный шаблон, который сортирует автомобили и фургоны на две группы.

Как вы думаете, что происходит, когда вы просите классифицировать эту фотографию?

К сожалению, похоже, что ИИ думает, что это фургон.

Теперь вы показываете это.

ИИ это говорит вам, что это машина.

Совершенно ясно, что пошло не так.

Из ограниченного количества изображений, на которых он обучался, ИИ решил, что цвет — лучший способ отделить автомобили от фургонов.

Но самое удивительное в программе ИИ то, что она пришла к этому решению сама, и мы можем помочь ей усовершенствовать процесс принятия решений.

Мы можем сказать ему, что он неправильно идентифицировал два новых объекта — это заставит его найти новый шаблон на изображениях.

Но что еще более важно, мы можем исправить смещение в наших обучающих данных, придав им более разнообразные изображения.

Эти два простых действия, взятые вместе — и в огромном масштабе — — это то, как большинство систем ИИ были обучены принимать невероятно сложные решения.

Обучение с учителем — невероятно мощный метод обучения, но многие недавние прорывы в области искусственного интеллекта стали возможными именно благодаря обучению без учителя.

Проще говоря, именно здесь использование сложных алгоритмов и огромных наборов данных означает, что ИИ может учиться без какого-либо руководства со стороны человека.

ChatGPT может быть самым известным примером.

Объем текста в Интернете и в оцифрованных книгах настолько огромен, что за много месяцев ChatGPT смог самостоятельно научиться осмысленно комбинировать слова, а затем люди помогали настраивать его ответы.

Представьте, что у вас есть большая стопка книг на иностранном языке, возможно, некоторые из них с картинками.

В конце концов вы могли бы выяснить, что одно и то же слово появлялось на странице всякий раз, когда был рисунок или фотография дерева, и другое слово, когда была фотография дома.

И вы увидите, что рядом с этими словами часто было слово, которое могло означать «а» или, может быть, «тот» — и так далее.

ChatGPT провел такой тщательный анализ отношений между словами, чтобы построить огромную статистическую модель, которую затем можно использовать для прогнозирования и создания новых предложений.

Он опирается на огромную вычислительную мощность, которая позволяет ИИ запоминать огромное количество слов — по отдельности, группами, в предложениях и на разных страницах — а затем читать и сравнивать, как они используются, снова и снова за долю секунды.

Быстрый прогресс, достигнутый моделями глубокого обучения в прошлом году, вызвал новую волну энтузиазма и беспокойства по поводу потенциала искусственного интеллекта, и нет никаких признаков того, что он замедлится.

Обещания и предупреждения научной фантастики, кажется, внезапно подкрались к нам, и мы обнаруживаем, что уже живем в мире, где ИИ начинает раскрывать свои странные нечеловеческие способности.

Технология, целью которой является воспроизведение человеческого мышления внутри машин.  Некоторые примеры способностей, попадающих в эту категорию, включают в себя идентификацию людей на фотографиях, работу на фабриках и даже уплату налогов.

Генеративный ИИ — это ИИ, который может создавать такие вещи, как текст, изображения, звук и видео. Традиционные приложения ИИ в основном классифицируют контент, а генеративные модели ИИ создают его. Например, модель распознавания голоса может идентифицировать ваш голос, а модель генеративного голоса может использовать ваш голос для создания аудиокниг . Почти все модели, которые недавно привлекли внимание общественности, были генеративными, включая чат-боты, такие как ChatGPT от OpenAI, создатели изображений, такие как Stable Diffusion и MidJourney, и программы клонирования голоса, такие как Resemble.

Набор информации — текст, изображение, звук — предназначен для помощи моделям ИИ в выполнении задач. В языковых моделях обучающие наборы данных сосредоточены на текстовых материалах, таких как книги, комментарии из социальных сетей и даже код. Поскольку модели ИИ учатся на обучающих данных, возникают этические вопросы, связанные с их поиском и курированием. Низкокачественные обучающие данные могут привести к предвзятости, что приведет к несправедливым моделям, которые принимают расистские или сексистские решения.

Ошибка, возникающая из-за неверных обучающих данных и плохого программирования, из-за которой модели принимают предвзятые решения. Такие модели могут делать неверные предположения в зависимости от пола, способностей или расы. На практике эти ошибки могут причинить серьезный вред, влияя на принятие решений — от заявок на ипотеку до разрешений на трансплантацию органов. Многие критики быстрого развертывания ИИ ссылались на возможность алгоритмической предвзятости.

Описание программ, способных не меньше или даже больше, чем человек. В то время как полный общий интеллект все еще не в будущем, модели становятся все более изощренными. Некоторые продемонстрировали навыки в нескольких областях, от химии до психологии, с выполнением задач, аналогичным человеческим эталонам.

Модель ИИ, которая имеет цель и достаточно инструментов для ее достижения. Например, беспилотные автомобили — это автономные агенты, которые используют сенсорный ввод, данные GPS и алгоритмы вождения, чтобы принимать независимые решения о том, как перемещаться и достигать пунктов назначения. Группа автономных агентов может даже развивать культуры, традиции и общий язык, как продемонстрировали исследователи из Стэнфорда.

Процесс использования предыдущих взаимодействий с моделью ИИ для создания новых, более точно настроенных ответов, особенно в языковом моделировании на основе подсказок. Например, когда вы просите ChatGPT отправить вашему другу текст, вы ожидаете, что он запомнит такие вещи, как тон, которым вы разговариваете с ней, внутренние шутки и другой контент из предыдущих разговоров. Эти методы помогают включить этот контекст.

Применение ИИ — обычно генеративное — которое направлено на понимание, взаимодействие и общение с языком по-человечески. Эти модели отличаются большим размером: самая большая версия GPT-3, прямого предшественника ChatGPT, содержала 175 миллиардов различных переменных, называемых параметрами, которые были обучены на 570 гигабайтах данных. Модель Google PaLm еще больше и имеет 540 миллиардов параметров. Ожидается, что по мере совершенствования аппаратного и программного обеспечения этот масштаб будет увеличиваться.

Галлюцинации — это неожиданные и неправильные ответы программ ИИ, которые могут возникать по причинам, которые еще полностью не известны. Языковая модель может внезапно вызвать рецепты фруктовых салатов, когда вы спрашиваете о посадке фруктовых деревьев. Он также может придумывать научные цитаты, лгать о данных, которые вы просите его проанализировать, или придумывать факты о событиях, которых нет в его обучающих данных. Не совсем понятно, почему это происходит, но это может быть связано с разрозненными данными, пробелами в информации и неправильной классификацией. 

Навыки, которые может продемонстрировать ИИ, для которых он явно не был создан. Некоторые примеры включают интерпретацию смайликов, сарказм и использование языка, учитывающего гендерные аспекты. Исследовательская группа Google Brain выявила более 100 таких моделей поведения , отметив, что по мере дальнейшего масштабирования моделей может появиться больше.

Усилия по обеспечению того, чтобы системы ИИ разделяли те же ценности и цели, что и их операторы-люди. Чтобы согласовать мотивы, исследования выравнивания направлены на обучение и калибровку моделей, часто используя функции для поощрения или наказания моделей. Если модель работает хорошо, вы даете ей положительный отзыв. Если нет, вы даете отрицательный отзыв.

Форма ИИ, которая может понимать и работать с несколькими типами информации, включая текст, изображения, речь и многое другое. Это мощно, потому что позволяет ИИ понимать и выражать себя в нескольких измерениях, обеспечивая как более широкое, так и более тонкое понимание задач. Одним из приложений мультимодального ИИ является этот переводчик, который может преобразовывать японские комиксы в английский язык.

Это процесс предоставления ИИ инструкций, чтобы у него был контекст, необходимый для достижения вашей цели. Быстрая разработка лучше всего ассоциируется с ChatGPT OpenAI, описывая задачи, которые пользователи вводят в алгоритм (например, «Дайте мне пять популярных имен для детей»).

Обучение — это процесс усовершенствования ИИ с использованием данных, чтобы он лучше подходил для выполнения задачи. ИИ можно обучать, вводя данные в зависимости от того, на чем вы хотите, чтобы он учился — например, скармливая сонеты Шекспира поэтическому боту . Вы можете делать это несколько раз в итерациях, называемых «эпохами», пока производительность вашей модели не станет стабильной и надежной. 

Нейронные сети — это компьютерные системы, созданные для аппроксимации структуры человеческого мышления, в частности, через структуру вашего мозга. Они построены таким образом, потому что позволяют модели строиться от абстрактного к конкретному. В модели изображения могут быть сформированы начальные слои, такие понятия, как цвет или положение, которые затем переходят в более устойчивые, более знакомые формы, такие как фрукты или животные. 

Некоторые алгоритмы ИИ имеют односторонний подход. Буквально. Они созданы для одной цели и не более того. Если узкий алгоритм ИИ может играть в шашки, он не может играть в шахматы. Примеры включают алгоритмы, которые обнаруживают только изображения NSFW, и механизмы рекомендаций, разработанные, чтобы сказать вам, какой продукт Ozon купить дальше.

Нейронные сети и искусственный интеллект прошли долгий путь за последние годы, но еще многое предстоит сделать. Такие модели, как ChatGPT, показывают, что ИИ может общаться с помощью сложных и похожих на человеческие способов. В то же время достижения в области компьютерного зрения позволяют искусственному интеллекту анализировать и создавать все более сложные визуальные образы. Однако фундаментальные ограничения, связанные с рассуждениями, здравым смыслом и опорой на знания реального мира, остаются.

Поскольку исследователи продолжают расширять границы возможностей ИИ, важно, чтобы прогресс был продуманным и этичным. Технология открывает большие перспективы, но при безответственном подходе она также несет в себе риски. В дальнейшем технологи, политики и общество в целом должны совместно работать над тем, чтобы направить ИИ в нужное для всего человечества русло. При бережном отношении искусственный интеллект может дополнить возможности человека и помочь в решении глобальных проблем — от изменения климата до болезней. Но дальнейший путь неясен. Хотя современные модели впечатляют, мы лишь поверхностно изучили то, что может быть возможным. Ближайшие десятилетия покажут, куда в конечном итоге приведет нас эта технология.