“Искусственный интеллект” уже много лет являются одними из самых популярных слов в технологической отрасли, при этом особое внимание уделяется нейронным сетям. Обещания создать по-настоящему “умные” машины заразили нас ожидания, которое, увы, а может и к счастью, пока не оправдалось. Можно ли нейронную сеть считать настоящим аналогом человеческого разума?
Спойлер: нет.
Нейросети не ведают, что творят
По своей сути, нейронные сети — это просто сложные математические модели, которые можно обучить распознавать закономерности в данных. По сути, это просто алгоритмы, хотя и обладающие впечатляющей способностью учиться на опыте. Но, несмотря на свои возможности, нейронные сети на самом деле не «понимают» данные, с которыми работают. У них нет сознания или способности рассуждать, и они не могут по-настоящему понять концепции, которые они обрабатывают.
Заблуждение об “интеллектуальности” ИИ возникает из-за того, что нейросети могут выполнять задачи, для которых традиционно требовался человеческий ум. Они способны распознавать лица, понимать естественный язык и даже обыгрывать нас в такие сложные игры, как шахматы и го. Но, несмотря на свои впечатляющие способности, нейронные сети в конечном итоге просто следуют правилам и делают прогнозы на основе статистического анализа.
Такое непонимание возможностей нейронных сетей может иметь серьезные последствия. Оно приводит к чрезмерному доверию системам искусственного интеллекта, которые на самом деле не способны полностью понять данные, с которыми они работают. Это также может привести к нереалистичным ожиданиям относительно того, чего ИИ сможет достичь в будущем.
Регенерация реакции
На прошлой неделе Microsoft выпустила новую версию своего Bing , и в отличие от обычной поисковой системы он включает в себя чат-бота, который может отвечать на вопросы в ясной и лаконичной форме.
Практически сразу люди заметили, что часто контент, сгенерированный чат-ботом Bing, является неточным, вводящим в заблуждение и совершенно странным. Это вызвало опасения, что бот стал разумным и научился осознавать окружающий мир.
Это не так. И чтобы понять почему, важно знать, как на самом деле работает такая технология.
Чат-бот Bing функционирует на основе искусственного интеллекта, называемого нейронной сетью. Это может звучать как компьютеризированный мозг, но такой термин вводит в заблуждение.
Нейронная сеть — это просто математическая система, которая обучается навыкам , анализируя огромные объемы цифровых данных. Например, когда нейронная сеть анализирует тысячи фотографий кошек, она может научиться распознавать кошку.
Многие люди используют нейронные сети каждый день, не отдавая себе в этом отчет. Это технология, которая идентифицирует людей, домашних животных и другие объекты на изображениях, размещенных в интернет-сервисах, таких как Google Photos. Нейросети научили Siri и Alexa распознавать слова, которые вы произносите, а Google Translate переводить, учитывая контекст.
Нейронные сети очень хорошо имитируют то, как люди используют язык. И это может заставить нас думать, что технология более мощная, чем она есть на самом деле.
Как именно нейронные сети имитируют человеческий язык?
Около пяти лет назад исследователи из таких компаний, как Google и OpenAI, стартап из Сан-Франциско, выпустивший популярный чат-бот ChatGPT, начали создавать нейронные сети, которые обучались на огромном количестве цифрового текста, включая книги, статьи в Википедии, журналы чатов и прочее. виды других вещей, размещенных в Интернете.
Эти нейронные сети известны как большие языковые модели. Они могут использовать массивы данных для построения того, что можно назвать математической картой человеческого языка. Используя ее, нейронные сети способны выполнять множество различных задач, таких как написание собственных твитов, составление речей, создание компьютерных программ и, да, неформальное общение.
Большие языковые модели оказались полезными. Microsoft предлагает инструмент Copilot, который построен на том же принципе и может предлагать следующую строку кода, когда программисты создают приложения, во многом так же, как инструменты автозаполнения предлагают следующее слово, когда вы печатаете тексты или электронные письма.
Другие компании предлагают аналогичные технологии, которые могут генерировать маркетинговые материалы, электронные письма и другой текст. Этот вид технологии также известен как генеративный ИИ.
В ноябре OpenAI выпустила ChatGPT, и широкая публика впервые попробовала это. Люди были поражены.
Эти чат-боты не разговаривают точно так же, как люди, но нам так часто кажется. Они также могут писать курсовые работы и стихи, а также болтать почти по любому предмету, который возникнет у них на пути.
Почему они ошибаются?
Потому что чат-боты учатся из Интернета. Подумайте, сколько дезинформации и прочего мусора они оттуда могут поглотить.
Эти системы также не повторяют дословно то, что есть в Интернете. Опираясь на то, что они узнали, они самостоятельно создают новый текст, что исследователи ИИ называют «галлюцинацией».
Вот почему чат-боты могут дать вам разные ответы, если вы зададите один и тот же вопрос дважды. Они скажут что угодно, независимо от того, основано это на реальности или нет.
Если чат-боты «галлюцинируют», разве это не делает их разумными?
Исследователи ИИ любят использовать термины, которые делают эти системы человеческими. Но галлюцинация — это просто броский термин, обозначающий «они выдумывают».
Это звучит жутко и опасно, но совершенно не означает, что технология каким-то образом жива или осознает свое окружение. Чат-бот просто генерирует текст, используя шаблоны, найденные в Интернете. Во многих случаях он смешивает и сочетает информацию удивительным и тревожным образом. Но он не осознает, что делает и не может рассуждать, как люди.
Разве компании не могут помешать чат-ботам вести себя странно?
Они пытаются.
Используя ChatGPT, OpenAI пытался контролировать поведение технологии. Когда небольшая группа людей тестировала систему в частном порядке, OpenAI попросила их оценить правдивость и полезность ответы. Затем OpenAI использовала эти рейтинги, чтобы отточить систему и более точно определить, что она будет делать, а что нет.
Но такие методы не идеальны. Ученые сегодня не умеют строить полностью достоверные системы. Они могут ограничить неточности и странности, но не способны их остановить. Один из способов обуздать странное поведение — делать чаты короткими.
Но, нравится нам это или нет, чат-боты по-прежнему будут извергать вещи, которые не соответствуют действительности. И по мере того, как другие компании начинают развертывать такого рода ботов, не все будут хорошо контролировать то, что они могут и не могут делать.
Кому ж тогда верить?
Как и прежде, только своим ощущениям и проверенным, научным данным. А про ИИ важно помнить, что хотя нейросети и могут быть невероятно мощными инструментами, они не являются по-настоящему интеллектуальными, как человек. У них нет сознания или способности рассуждать, и они не могут по-настоящему понять окружающий мир. Вместо этого, это просто инструменты, которые можно использовать для обработки и анализа данных, хотя и очень сложные. Понимая ограничения нейронных сетей, мы можем обеспечить их ответственное, эффективное и безопасное использование.
Вывод: не верьте всему, что вам говорит чат-бот. Верить вообще никому нельзя. Только нам можно.
