Революция искусственного интеллекта: путь к суперинтеллекту
Примечание: Мне потребовалось три недели, чтобы завершить данный пост, поскольку я окунулся в исследования об искусственном интеллекте, и я не мог поверить в то, что я читал. До меня довольно быстро дошло, что то, что происходит в мире ИИ, является не просто важной темой для обсуждения на сегодняшний день, это наиболее важная тема в контексте нашего будущего, поэтому я спешил как можно больше узнать об ИИ. После только я сделал это, для меня было важно убедиться, что я написал пост, который действительно раскрыл данный аспект и то, почему он настолько важен. Не шокируйтесь, что статья получилась возмутительно длинной, я разбил ее на две части.
_______________
«Мы находимся на пороге изменений, сравнимых с зарождением человеческой жизни на Земле». – Виндж Вернор
Что вы чувствуете, стоя в этом месте?
Похоже, место, где мы сейчас находимся на отрезке времени, является довольно насыщенным и интенсивным, но вы также должны помнить один важный момент, когда стоите на графике времени: вы не можете увидеть, что справа от вас. Вот как человек на самом деле будет ощущать себя, стоя здесь:
Вроде как даже вполне нормально...
_______________
Далекое будущее приближается
Представьте, что вы перенеслись с помощью машины времени назад в прошлое, где-то так в 1750 год – в то время, когда мир испытывал постоянные перебои в снабжении электроэнергией, а междугородная связь означала или громкий крик или стрельбу из пушки в воздух, и весь транспорт работал на сене. Теперь представьте, что вы взяли кого-то оттуда и привезли его в 2015 год, и показали ему всё происходящее вокруг, наблюдая за его реакцией. Нам даже невозможно представить, каково бы ему было увидеть всё это: видеть блестящие капсулы, проносящиеся мимо по шоссе; говорить с людьми по ту сторону океана; смотреть спортивные соревнования за 1 000 километров от места их проведения; слушать музыкальное произведение, записанное 50 лет назад; играть с вашим волшебным прямоугольником, с помощью которого можно запечатлеть реальное изображение или записать момент из жизни; генерировать карту местности с загадочной движущейся синей точкой, которая будет показывать его местонахождение в данный момент, смотреть на чье-либо лицо и даже общаться с этим человеком, даже если он находится на другом конце страны, и узреть миры другой непостижимой магии. Не говоря уже об Интернете, Международной космической станции, Большом адронном коллайдере, ядерном оружии или общей теории относительности.
Этот опыт для него нельзя просто назвать удивительным или шокирующим или даже умопомрачительным – нет слов, как можно было бы передать его реакцию. Он действительно, мог бы умереть от перебора информации.
Но вот интересный момент: если бы он потом вернулся в свой 1750 год, преисполненный зависти, что мы видели его реакцию, и решил бы сделать то же самое, что и мы, он сел бы в машину времени и вернулся бы назад на такой же временно́й промежуток, как и мы, взял бы кого-то из где-то так 1500 года, привез бы его в свой 1750 год и показал ему всё. Парень из 1500 года был бы в шоке от многих вещей, но он вряд ли бы умер от перебора информации. Для него тот прогресс был бы меньше шокирующим, потому что различия в цивилизациях между 1500 и 1750 годами были гораздо менее ощутимыми, чем различия между 1750 и 2015 годами. Да, парень из 1500 года многое бы узнал о пространстве и физике и был бы поражен некими новыми империалистическими приколами в Европе, и увидел бы новую карту мира. Но течение повседневной жизни в 1750 году – транспорт, связь и т.п. – безусловно, не удивили бы его до смерти.
Нет, для того чтобы парень из 1750 года смог получить столько же впечатлений, какие мы получили от общения с ним, он должен отправиться гораздо дальше назад, возможно, даже примерно до 12 000 года до н.э., т.е. до того периода, когда Первая сельскохозяйственная революция породила первые города и понятие цивилизации. Если кто-то из эпохи чистых охотников-собирателей – со времен, когда люди были более или менее совсем иным животным видом – увидел бы огромные человеческие империи 1750 года, их возвышающиеся церкви, их корабли, пересекающие океан, их понятие «внутреннего» бытия и их огромную массу коллективно накопленных человеческих знаний и открытий – он бы, скорее всего, умер от этой информации.
А затем, после смерти, преисполненный зависти, он захотел бы сделать то же самое, и, если бы он вернулся из 12 000 года до н.э. в 24 000 до н.э., взял кого-нибудь оттуда и привел бы его в свой 12000 год до н.э., тот парень, увидев всё это, просто ответил бы: «Ерунда! Меня это не интересует!» Для того чтобы человек из 12 000 года до н.э. мог действительно впечатлиться, ему пришлось бы вернуться назад в историю более чем на 100 000 лет и взять кого-то, кому бы он мог впервые показать огонь и язык общения.
Для того чтобы кто-либо, переносясь в будущее, был удивлен до смерти, он должен перенестись вперед на достаточное количество лет, чтобы пересечь достигнутую «точку смертельного прогресса» (ТСП). Таким образом, для достижения ТСП в эпоху охотников-собирателей потребовалось более 100 000 лет, однако в эпоху пост-сельскохозяйственной революции для ее достижения потребовалось всего лишь около 12 000 лет. После промышленной революции мир двигался настолько быстро, что человеку из 1750 года для достижения ТСП потребовалось пройти вперед всего лишь пару сотен лет.
Данную модель – увеличившее скорость движение прогресса человеческого общества с течением времени – футуролог Рэй Курцвейл называет Законом ускоряющейся отдачи человеческой истории. Это происходит потому, что более развитые общества имеют возможность двигаться вперед более быстрыми темпами, чем менее развитые общества – потому что они более прогрессивны. Человечество в 19-м веке обладало большими знаниями и имело более совершенные технологии, чем человечество в 15-м веке, так что не удивительно, что человечество в 19-м веке достигло гораздо большего, чем человечество в 15-м веке – и т.д.
Это также работает на меньших масштабах. Фильм «Назад в будущее» вышел в свет в 1985 году, и «прошлое», о котором упоминалось в фильме, относилось к 1955 году. В фильме, когда Майкл Джей Фокс вернулся в 1955 год, его застали врасплох новизна телевизоров, цены на содовую, отсутствие любви к гитарному звуку и вариации в сленге. Это был другой мир, безусловно, но если бы фильм снимали сегодня, а прошлое было в 1985 году, разница была бы куда более существенна. Персонаж Марти Макфлай, попавший в прошлое из времени персональных компьютеров, Интернета и мобильных телефонов – современный Марти Макфлай, родившийся в конце 90-х годов – был бы гораздо более неуместным, чем Марти Макфлай, отправившийся в 1955 год из 1985.
Все это благодаря тому, о чем мы говорили ранее – Закону ускоряющейся отдачи. Средняя скорость развития прогресса между 1985 и 2015 годами была выше, чем скорость между 1955 по 1985 годами – потому что в первом случае мир продвинулся вперед больше – за последние 30 лет он был более насыщен достижениями, чем в предыдущие 30 лет.
Таким образом, чем больше достижений у человечества, тем быстрее происходят изменения. Но разве это не должно оставлять нам определенные намеки на будущее?
Курцвейл предполагает, что прогресс всего 20 века мог бы быть пройден всего за 20 лет при уровне развития 2000 года – то есть в 2000 году скорость прогресса была в пять раз выше, чем средняя скорость прогресса в течение всего 20 века. Также он полагает, что прогресс всего 20 века был эквивалентен прогрессу периода с 2000 по 2014 год, или прогресс того же 20 века будет эквивалентен периоду до 2021 года, т. е. всего за семь лет. Согласно его предположениям, спустя несколько десятков лет весь прогресс 20 века будет происходить по несколько раз в год, а дальше – всего за месяц. В конечном итоге, вследствие Закона ускоряющейся отдачи, как считает Курцвейл, прогресс за весь 21 век в 1000 раз превысит прогресс 20 века.
Если Курцвейл и его сторонники окажутся правы, то 2030 год удивит нас аналогично тому, как парня из 1750 года удивил наш 2015 год – то есть следующая ТСП произойдет всего через пару десятков лет – а мир в 2050 году будет настолько сильно отличаться от современного, что мы едва ли его узнаем.
Это не научная фантастика. Так полагают многие ученые, которые умнее и образованнее нас с вами – и если вы взглянете в историю, то поймете, что данный прогноз вполне логичен.
Почему же, когда мы сталкиваемся с утверждениями вроде таких, как «мир через 35 лет изменится до неузнаваемости», мы хладнокровно думаем: «Ну, прямо-таки!»? Есть три причины нашего скептического отношения к прогнозам о будущем:
1) Когда дело доходит до истории, мы мыслим линейно.
Пытаясь представить прогресс следующих 30 лет, мы смотрим на прогресс предыдущих 30 лет как на индикатор того, сколько всего, по всей вероятности, произойдет. Когда мы думаем о том, как изменится наш мир в 21 веке, мы берем прогресс 20 века и добавляем его к 2000 году. Такую же ошибку совершает наш парень из 1750 года, когда берет кого-то из 1500 года и пытается его удивить. Мы интуитивно мыслим линейно, хотя должны были бы мыслить экспоненциально. По сути, надо рассуждать более здраво: строить прогноз в плане прогресса на последующие 30 лет нужно, не глядя на предыдущие 30 лет, а исходя из текущего уровня прогресса. Тогда прогноз будет более точным, но все равно не до конца. Для того чтобы правильно представлять себе будущее, вам нужно представлять, что события движутся намного быстрее, чем они движутся сейчас.
2) Траектория новейшей истории зачастую выглядит искаженно.
Во-первых, даже крутая экспоненциальная кривая кажется линейной, когда вы видите небольшие ее части, аналогично тому, как, если вы смотрите на небольшой участок огромного круга с близкого расстояния, он выглядит почти как прямая линия. Во-вторых, экспоненциальный рост не всегда гладкий и однородный. Курцвейл полагает, что прогресс движется «S-образными» кривыми:
S-образная кривая имеет три фазы:
1. Фаза медленного роста (ранняя фаза экспоненциального роста);
2. Фаза быстрого роста (поздняя, взрывная фаза экспоненциального роста);
3. Фаза стабилизации в виде конкретной парадигмы.
Если взглянуть только на новейшую (недавнюю) историю, часть S-кривой, в которой вы находитесь в данный момент, может скрывать от вашего восприятия скорость прогресса. Часть времени в промежутке между 1995 и 2007 годами отобразила взрывное развитие Интернета, представление Microsoft, Google и Facebook публике, рождение социальных сетей и развитие мобильных телефонов, а затем и смартфонов. Это была вторая фаза нашей кривой. Тем не менее, период с 2008 по 2015 год был менее прогрессивным, по крайней мере, на технологическом фронте. Те, кто думают о будущем сегодня, вероятно, возьмут для оценки общего темпа прогресса последние несколько лет, но этого будет мало для видения бо́льшей картины. На самом же деле новая, мощная фаза № 2 может назревать уже сейчас.
3. Наш собственный опыт делает нас упрямыми стариками, когда речь заходит о будущем.
Свои идеи о мире мы основываем на собственном опыте, и этот опыт представил темпы роста в недавнем прошлом для нас как «само собой разумеющееся». Наше воображение так же ограничено, поскольку для прогнозирования предстоящих событий оно использует наш опыт – но чаще всего у нас просто нет инструментов, которые бы позволили нам точно спрогнозировать наше будущее. Когда мы слышим прогнозы на будущее, которые расходятся с нашим повседневным восприятием работы окружающих нас вещей, мы инстинктивно считаем их наивными. Если я скажу вам, что вы доживете до 150 или 250 лет, а, возможно, и будете жить вечно, вы инстинктивно подумаете: «Глупости! Исходя из истории, все люди смертны». Так и есть: никто не доживал до таких лет. Как и ни один самолет не летал до того времени, пока их не изобрели.
Таким образом, хотя ваше отрицание и кажется вам обоснованным, зачастую оно ошибочно. Дело в том, что, если мы будем по настоящему логичны, ожидая продолжения исторических закономерностей, мы должны признать, что многие, многие вещи должны измениться в ближайшие десятилетия, чего мы интуитивно ожидаем.. Логика также подсказывает, что если самый продвинутый вид на планете продолжит делать гигантские скачки вперед с ускоряющимися темпами, то в определенный момент скачок будет настолько серьезным, что он кардинально изменит жизнь, какой мы ее знаем. Нечто подобное случилось в процессе эволюции – человеческий интеллект постоянно развивался и в один прекрасный момент человек стал настолько умен, что полностью изменил жизнь любого другого живого вида на планете Земля. И если вы потратите немного времени на чтение того, что происходит в настоящее время в науке и технике, вы, вероятно, начнете замечать некоторые намеки на то, когда и каким будет предстоящий гигантский скачок.
_______________
Путь к суперинтеллекту
Что такое искусственный интеллект (ИИ)?
Как и многие люди, вы привыкли считать искусственный интеллект глупой идеей научной фантастики. Но за последнее время очень многие серьезные люди стали обеспокоены этой глупой идеей.
Существуют три причины, которые вводят нас в заблуждение касательно ИИ:
1) Мы ассоциируем ИИ с фильмами. «Звездные войны», «Терминатор», «Космическая одиссея 2001 года». ИИ в них – это вымысел, как и роботы. Таким образом, фильмы заставляют нас воспринимать ИИ как что-то вымышленное.
2) Это тема включает многие понятия. Она варьируется от калькулятора в вашем телефоне до самоуправляемых автомобилей и даже чего-то такого в будущем, что кардинально изменит наш мир. Все эти вещи объединяются в понятие ИИ, и это сбивает с толку.
3) Мы ежедневно используем ИИ, но зачастую даже не подозреваем об этом. По словам Джона Маккарти, который в 1956 году ввел в употребление термин «искусственный интеллект», «как только он заработает, никто больше не будет называть его ИИ». ИИ стал чем-то вроде мифического предсказания о будущем, нежели чем-то реальным. В то же время в этом названии таится концепция и чего-то из прошлого, что никогда не стало реальностью. Рэй Курцвейл говорит, что он слышит, как люди говорят, что ИИ изжил себя в 80-х годах, что можно сравнить с «утверждением, что Интернет изжил себя с расцветом Интернет-компаний в начале 2000-х годов».
Давайте внесем некоторую ясность. Во-первых, перестаньте думать о роботах. Робот – это контейнер для ИИ, который иногда имитирует человеческую форму, а иногда нет. Сам ИИ – это компьютер внутри робота. ИИ – это мозг, а робот – это его тело (если у него вообще имеется это тело). К примеру, программное обеспечение и данные Siri – это ИИ, женский голос, который мы слышим – это олицетворение ИИ без какой-либо телесной оболочки.
Во-вторых, вы наверняка слышали термин «сингулярность», или «технологическая сингулярность». Этот термин используется в математике для описания асимптота ситуации, к которой неприменимы обычные правила. В физике он используется для описания бесконечно малой, плотной точки черной дыры или изначальной точки Большого взрыва. Опять же, к ней неприменимы законы физики. В 1993 году Вернор Виндж написал знаменитое эссе, в котором применил этот термин к моменту в будущем, когда интеллект наших технологий превзойдет наш собственный – в этот момент жизнь, какой мы ее знаем, изменится навсегда, а обычные правила ее существования больше не будут работать. Позже Рэй Курцвейл внес некую путаницу, указав, что сингулярность будет достигнута, когда Закон ускоряющейся отдачи достигнет экстремальной точки, когда технологический прогресс будет двигаться, казалось бы, бесконечно быстро, после чего мы будем жить в совершенно новом мире. Я обнаружил, что многие эксперты в сфере ИИ перестали использовать этот термин, поэтому и я не буду часто использовать этот термин в данной статье (несмотря на то, что мы постоянно будем фокусироваться на этой идее).
Наконец, хотя имеется множество видов, или форм, ИИ, поскольку ИИ – это более широкое понятие, основные категории его зависят от масштаба. Есть три основных категории:
1) Узконаправленный искусственный интеллект (УИИ). Это слабый ИИ. УИИ специализируется в одной области. Сюда относится ИИ, который может обыграть чемпиона мира по шахматам, и это всё, что он может. Или ИИ, который может предложить лучший способ хранения данных на жестком диске, и только.
2) Общий искусственный интеллект. Это сильный ИИ. Иногда его также называют ИИ человеческого уровня. К ОИИ относят компьютер, который умен, как человек – машина, которая способна выполнять любое интеллектуальное действие, свойственное человеку. Создать ОИИ намного сложнее, чем УИИ, и мы еще не достигли этого уровня. Профессор Линда Готтфредсон описывает интеллект как «в общем смысле психический потенциал, который, наряду с другими вещами, включает способность рассуждать, планировать, решать проблемы, мыслить абстрактно, понимать сложные идеи, быстро обучаться и обучаться на опыте». ОИИ должен уметь делать всё это так же просто, как это можете делать вы.
3) Искусственный сверхинтеллект (ИСИ). Оксфордский философ и теоретик по вопросам ИИ Ник Бостром определяет сверхинтеллект как «интеллект, который гораздо умнее лучших человеческих умов практически в любой сфере, включая научное творчество, общую мудрость и социальные навыки». Искусственный сверхинтеллект варьирует от компьютера, который немного умнее человека, до такого компьютера, который в триллионы раз умнее человека в любой сфере. ИСИ как раз и является причина того, почему растет интерес к ИИ, а также того, что в таких обсуждениях часто появляются слова «вымирание» и «исчезновение».
В настоящее время люди уже покорили самую первую ступень масштаба ИИ – УИИ – во многих отношениях. Революция ИИ – это путь от УИИ через ОИИ к ИСИ. Мы можем не пережить этот путь, но он, определенно, изменит всё.
Давайте более детально разберем, как видят этот путь ведущие теоретики в этой области и почему эта революция может произойти быстрее, чем вы могли бы подумать.
Где же мы находимся в настоящее время – мир приближается к УИИ
Узконаправленный искусственный интеллект – это машинный интеллект, который равен или превышает человеческий интеллект или производительность в выполнении определенной задачи. Вот несколько примеров:
• Автомобили содержат множество систем УИИ, от компьютера, который определяет, когда должна заработать антиблокировочная тормозная система, до компьютера, который определяет параметры системы впрыска топлива. Самоуправляемые автомобили Google, которые в настоящее время проходят испытания, будут содержать надежные системы УИИ, которые будут воспринимать и реагировать на окружающие их условия.
• Ваш телефон – это маленькая фабрика УИИ. Когда вы используете приложение «карты», получаете рекомендации по скачиванию приложений или музыки от Pandora, проверяете погоду на завтра, говорите с Siri или делаете другие вещи, вы используете УИИ.
• Спам-фильтр вашей электронной почты – это классический тип УИИ. Он начинает с выяснения того, как отделить спам от пригодных писем, а затем обучается в процессе обработки ваших писем и предпочтений. Ту же функцию выполняет и термостат Nest, поддерживая температуру по вашим заданным предпочтениям.
• Вспомните, как еще вчера вы искали нужный вам товар в поисковике на Amazon, а уже сегодня вы видите предложения этих товаров на других сайтах в качестве «рекомендуемых для вас». Или когда в социальной сети вам рекомендуют добавить интересных людей в друзья. Все это системы УИИ, которые работают вместе, определяя ваши предпочтения, отслеживая из Интернета данные о вас, подбираясь к вам все ближе. Предлагают вам купить что-то дополнительно к приобретаемой вами вещи. Они анализируют поведение миллионов людей и делают выводы на основе этих анализов, с тем чтобы продавать услуги крупных компаний или делать их сервисы лучше.
• Google Translate – еще одна классическая система УИИ, которая довольна хороша в тех или иных целях. Это же относится и к распознаванию голоса.
• Когда приземляется ваш самолет, терминал для него определяет не человек. И цену билета тоже.
• Лучшие в мире шашки, шахматы, нарды, «Эрудит» и прочие игры сегодня представлены системами УИИ.
• Поиск Google – это тоже гигантский УИИ, который использует сложные методы ранжирования страниц и определения результатов поисковой выдачи. Это же относится и к ленте новостей в Facebook.
• И это только в потребительском мире. Сложные системы УИИ широко используются в военной, производственной и финансовой отраслях (алгоритмическая высокочастотная торговля на большей части обыкновенных акций, торгуемых на американском рынке также использует ИИ), в медицинских системах (диагностическое оборудование, суперкомпьютер Watson от IBM, оснащенный вопросно-ответной системой ИИ).
Системы УИИ в настоящем виде не представляют угрозы. В худшем случае глючный или плохо запрограммированный УИИ может привести к локальному бедствию, создать перебои в энергоснабжении, обвалить финансовые рынки и тому подобное. (Всем известный мгновенный обвал 6 мая 2010 года, когда УИИ программа внезапно заглючила и обвалила фондовые рынки на 1 трлн. USD рыночной стоимости, из которых лишь часть была возвращена после исправления ошибки).
Но, хотя УИИ не является угрозой существования человечества, мы должны видеть вещи более масштабно – мы находимся в преддверии сокрушительного урагана, предвестником которого выступают УИИ. Каждая инновация в сфере УИИ добавляет один кирпичик к дорожке, ведущей к ОИИ и ИСИ. Или, как метко заметил Аарон Саенц, УИИ нашего мира похожи на «аминокислоты первичного бульона первобытной Земли» – пока еще неживые компоненты жизни, которые однажды проснутся.
Путь от УИИ к ОИИ:
Почему это так сложно?
Ничто не заставит вас оценить человеческий интеллект так полно, как узнать о том, насколько невероятно сложно попытаться создать компьютер, который бы был также умен, как и мы. Строительство небоскребов, полеты в космос, секреты Большого взрыва – всё это ерунда по сравнению с тем, чтобы просто понять наш собственный мозг или создать что-то подобное ему. В настоящее время мозг человека — самый сложный объект в изученной Вселенной.
Возможно, вы даже не подозреваете, насколько сложно создать ОИИ (компьютер, который будет умен, как человек, в целом, а не только в одной конкретной сфере). Создать компьютер, который может перемножать два десятизначных числа за долю секунды – проще простого. Создать же такой компьютер, который сможет взглянуть на собаку и кошку и сказать, где собака, а где кошка – невероятно сложно. Создать ИИ, который может обыграть гроссмейстера? Это уже пройденный этап. А вот создать же такой, который сможет прочитать абзац из книги для шестилетних детей и не только понять слова, но и их значение… Google тратит миллиарды долларов, пытаясь сделать это. Со сложными вещами – вроде вычислений, расчетов стратегий финансовых рынков, перевода языка – компьютер легко справляется, с простыми же вещами – зрение, движение, восприятие – нет. Как выразился Дональд Кнут, «ИИ сейчас делает практически все, что требует “мышления”, но не может справиться с тем, что делают люди и животные, “не задумываясь”».
Если задуматься об этом, то можно понять, что вещи, которые кажутся нам элементарными в исполнении, только кажутся такими, потому что были оптимизированы для нас (и животных) в ходе сотен миллионов лет эволюции. Когда вы протягиваете руку к какому-либо объекту, мышцы, суставы, кости ваших плеч, локтей и кистей мгновенно выполняют длинные цепочки физических операций, синхронных с тем, что вы видите, и движут вашу руку в трех измерениях. Вам это кажется простым, потому что за эти процессы отвечает идеальное программное обеспечение вашего мозга. Этот простой трюк позволяет сделать процедуру создания нового аккаунта путем ввода какого-то замысловатого слова простым для вас и сверхъестественным для вредоносной программы – для нашего мозга в этом нет ничего сложного.
С другой стороны, перемножение крупных чисел или игра в шахматы представляют собой новые виды деятельности для биологических существ, и у нас не было достаточно времени, чтобы совершенствоваться в них, поэтому компьютеру несложно нас превзойти. Просто задумайтесь: что бы вы предпочли: создать программу, которая может перемножать большие числа, или программу, которая узнает букву “B” в тысячах ее видов написаний, в самых непредсказуемых шрифтах?
Простой пример: когда вы смотрите на это изображение, вы и ваш компьютер понимаете, что это чередующиеся квадратики двух разных оттенков.
Но если вы уберете черное, вы сразу же раскроете полную картинку…
...вам не составит труда дать полное описание различных непрозрачных и полупрозрачных цилиндров, перекладин и трехмерных углов, но компьютер не сможет этого сделать. Он опишет то, что увидит он: разнообразие двумерных форм в различных оттенках, что, в общем-то, тоже будет верным. Ваш мозг проделывает тонну работы, интерпретируя глубину, игру теней, свет на картинке, стремясь распознать изображение. Представленный ниже рисунок компьютер воспримет как двухмерный черно-белый коллаж, тогда как в действительности на ней изображен трехмерный камень.
Автор: Мэтью Ллойд
И всё, о чем мы только что упомянули – это всего лишь верхушка айсберга, касающаяся понимания и обработки информации. Чтобы выйти на один уровень с человеком, компьютер должен понимать разницу в тонких выражениях лица, разницу между удовольствием, печалью, удовлетворением, радостью и почему кино «Храброе сердце» было замечательно, а «Патриот» было страшно.
Распутье…
Так как же нам туда попасть?
Первый ключ к созданию ОИИ: увеличение вычислительной мощности
Одна из необходимых вещей, которая должна произойти, чтобы ОИИ стал возможным – это увеличение мощности компьютерного оборудования. Если система искусственного интеллекта должна быть такой же умной, как мозг, ей нужно сравняться с мозгом по исходной вычислительной мощности.
Один из способов увеличить эту способность заключается в общем количестве вычислений в секунду (выч/с), которое может производить мозг, и вы можете определить это число, выяснив максимальное количестве выч/с для каждой структуры мозга и сведя их воедино.
Рэй Курцвейл пришел к выводу, что достаточно взять профессиональную оценку выч/с одной структуры и ее вес в сравнении с весом всего мозга, а затем умножить пропорционально, чтобы получить общую оценку. Звучит несколько сомнительно, но он проделывал это много раз, делая разные оценки в разных областях, и всегда приходил к одному и тому же числу: порядка 1016 или 10 квадриллионов выч/с.
Самый быстрый суперкомпьютер в мире, китайский «Тяньхэ-2», уже обошел это число: он способен выполнять порядка 32 квадриллиона выч/с. Но «Тяньхэ-2» занимает 720 кв. метров пространства, потребляет 24 мегаватта энергии (наш мозг потребляет всего 20 ватт) и стоит 390 млн. USD. С такими затратами о коммерческом или широком применении пока не может быть и речи.
Курцвейл предполагает, что мы оцениваем состояние компьютеров по тому, как много выч/с можно купить за 1 000 USD. Когда это число достигнет человеческого уровня – 10 квадриллионов выч/с – это будет означать, что ОИИ вполне может стать частью нашей жизни.
Закон Мура – исторически надежное правило, определяющее, что максимальная вычислительная мощность компьютеров удваивается каждые два года – подразумевает, что развитие компьютерной техники, как и движение человека по истории, растет в геометрической прогрессии. Если соотнести это с правилом Курцвейла о количестве выч/с за 1 000 USD долларов, то мы сейчас можем позволить себе только 10 триллионов выч/с за эту сумму.
Компьютеры стоимостью в 1 000 USD по своим вычислительным способностям обходят мозг мыши, но в тысячу раз слабее мозга человека. Звучит невпечатляюще, но следует напомнить, что в 1985 году компьютеры были в триллион раз слабее человеческого мозга, в 1995 году – в миллиард, а в 2005 году – в миллион. К 2025 году мы должны получить доступный компьютер, ничем не уступающий по вычислительной мощности нашему мозгу.
Таким образом, исходная мощность аппаратного обеспечения, необходимая для ОИИ, в настоящее время уже технически доступна в Китае, а в течение 10 лет она выйдет за его пределы и распространится по всему миру. Но одной вычислительной мощности недостаточно. И тут возникает следующий вопрос: как нам снабдить всю эту мощность интеллектом человеческого уровня?
Второй ключ к созданию ОИИ: сделать его разумным
А это уже довольно сложная часть. По правде говоря, никто толком не знает, как сделать машину разумной – мы до сих пор пытаемся понять, как создать разум человеческого уровня, способный отличить кошку от собаки, условно выделить букву “B” и проанализировать обычный фильм. Однако есть горстка дальновидных стратегий, и в один прекрасный момент одна из них должна сработать. Давайте рассмотрим три наиболее распространенные стратегии, с которыми я столкнулся:
1) Скопировать мозг
Эта стратегия похожа на то, будто ученые сидят в одном классе с ребенком, который очень умен и талантлив; и, даже при том, что они усердно пытаются постичь науку, они и близко не догоняют смышленого ребенка. В конце концов, они решают: «А давайте просто спишем у него ответы на вопросы». В этом есть смысл: коль мы не можем создать сверхсложный компьютер, так почему бы не взять за основу один из лучших прототипов вселенной – наши головы.
Научный мир трудится в поте лица, пытаясь выяснить, как работает наш мозг и как эволюция создала такую сложную вещь. По самым оптимистичным оценкам, они смогут постичь это только к 2030 году. Как только мы поймем все секреты работы мозга, его эффективности и мощности, мы сможем вдохновиться его методами в создании технологий. К примеру, одной из компьютерных архитектур, которая имитирует работу мозга, является искусственная нейронная сеть. Она начинается с сети «нейронов»-транзисторов, соединенных друг с другом входом и выходом, и не содержит в себе никакой информации – словно новорожденный ребенок. Далее эта система «обучается», пытаясь выполнять задания, распознавать рукописный текст и тому подобное. Связи между транзисторами укрепляются в случае правильного ответа и ослабляются в случае неверного. Спустя множество циклов вопросов и ответов система формирует умные нейронные переплетения, оптимизированные для выполнения определенных задач. Человеческий мозг обучается подобным образом, но в куда более сложной манере, и по мере того как мы продолжаем изучать его, мы открываем новые невероятные способы усовершенствования нейронных сетей.
Еще более экстремальный плагиат подразумевает стратегию под названием «полная эмуляция мозга», цель которой состоит в том, чтобы нарезать реальный мозг тонкими слоями, отсканировать каждый из них, а затем точно восстановить трехмерную модель с помощью программного обеспечения и воплотить ее в мощный компьютер. Тогда у нас будет компьютер, который формально может выполнять всё, что может делать наш мозг: ему просто нужно будет обучаться и собирать информацию. Если у инженеров получится эта задумка, они смогут эмулировать настоящий мозг с такой невероятной точностью, что после его загрузки в компьютер настоящая личность данного мозга и его память останутся интактными. Если данный мозг принадлежал бы Джиму до его смерти, компьютер проснулся бы в роли Джима, который теперь будет ОИИ человеческого уровня, а мы, в свою очередь, займемся превращением Джима в невероятно разумный ИСИ, от чего он, наверняка, будет в восторге.
Насколько мы далеки от эмуляции целого мозга? По правде говоря, на данном этапе мы всего лишь эмулировали мозг плоского червя длиной в 1 мм, который в общей сложности содержит 302 нейрона. Мозг человека содержит 100 миллиардов нейронов. Если попытки добраться до этого числа покажутся вам бесполезными, вспомните об экспоненциальных темпах роста прогресса. Эмулировав мозг крошечного червя, далее мы сможем эмулировать мозг муравья, затем мыши и так доберемся до человека.
2) Попытаться пройти эволюционный путь, только уже в наших целях
Итак, если мы решим, что ответы умного ребенка слишком сложны, чтобы их списать, мы можем попытаться пройти по его следам обучения и подготовки к экзаменам.
Кое-что нам уже известно. Построить компьютер такой же мощный, как и мозг, вполне возможно – этот факт был доказан эволюцией нашего собственного головного мозга. И, если мозг слишком сложен для эмуляции, мы можем попытаться эмулировать его эволюцию. Дело в том, что даже если мы сможем эмулировать мозг, это, по всей видимости, будет напоминать попытку построить самолет путем нелепых взмахов руками, повторяющих движения крыльев птиц – зачастую нам удается создать хорошие машины, используя свежий машинно-ориентированный подход, а не точное подражание биологии.
Как же мы можем сымитировать эволюцию, чтобы построить ОИИ? Этот метод под названием «генетические алгоритмы» должен работать примерно следующим образом: должен быть производственно-оценочный процесс, который бы постоянно повторялся (аналогично тому, как биологические существа «проживают» свою жизнь и «оцениваются» по своей способности к воспроизведению). Группа компьютеров будет выполнять задачи и самые успешные из них будут разделять свои характеристики с другими компьютерами и сливаться в новые. Менее успешные будут выбрасываться. Спустя множество таких циклов этот процесс естественного отбора позволит создавать всё лучшие компьютеры. Сложность заключается в создании автоматизации оценки и циклов воспроизведения, чтобы этот процесс эволюции шел сам по себе.
Недостатком копирования эволюции является то, что для эволюции потребуются миллиарды лет, чтобы что-то сделать – у нас же в запасе всего несколько десятилетий.
Но у нас есть масса преимуществ перед эволюцией. Во-первых, у нее нет никакой дальновидности, она работает случайно – чаще продуцирует бесполезные мутации, чем полезные – мы же можем контролировать процесс в рамках выгодных для нас изменении и специальных ухищрений. Во-вторых, эволюция не стремится к чему-то, включая интеллект – иногда она даже может пойти против интеллекта (потому что последний потребляет больше энергии). Мы же, с другой стороны, можем поставить перед собой конкретную цель: увеличить интеллект. В-третьих, чтобы выбрать интеллект, эволюции необходимо произвести ряд сторонних улучшений – например, перераспределение потребления энергии клетками – мы же можем просто убрать лишнее и использовать электричество. Несомненно, мы будем быстрее эволюции – но опять же, непонятно, сможем ли мы ее превзойти с помощью данной стратегии.
3) Дать возможность компьютерам развиваться самостоятельно
Когда ученые совсем отчаются, последнее, что им останется сделать, это попытаться запрограммировать компьютеры на саморазвитие. Тем не менее, данный метод может оказаться самым перспективным из всех остальных.
Идея в том, что мы смогли бы создать компьютер, двумя основными навыками которого будут исследование ИИ и кодирование изменений в самих себя – это позволит ему не только больше обучаться, но и улучшать свою собственную архитектуру. Мы можем обучить компьютеры быть компьютерными инженерами для самих себя – дать им возможность саморазвиваться. И их основной задачей будет выяснить, как стать еще умнее. Позже мы поговорим об этом подробнее.
Все это может произойти очень скоро
Стремительное развитие аппаратного обеспечения идет рука об руку с экспериментами с программным обеспечением, и ОИИ может появиться быстро и неожиданно по двум основным причинам:
1) Экспоненциальный рост идет интенсивно, и то, что кажется черепашьими шагами, может быстро перерасти в гигантские прыжки – см. иллюстрацию ниже:
Сколько потребуется времени, чтобы компьютеры достигли такой же мощности человеческого мозга?
Объем озера Мичиган, измеряемый в жидких унциях, примерно равен способности нашего мозга, измеряемой в количестве вычислений в секунду. Вычислительная мощность удваивается каждые 18 месяцев. При таком темпе вы долгое время не будете видеть никаких результатов, но затем все случится моментально.
2) Когда дело доходит до программного обеспечения, прогресс может казаться медленным, но затем один прорыв мгновенно меняет скорость продвижения вперед (хороший пример: во времена геоцентризма людям было сложно рассчитать работу вселенной, но открытие гелиоцентризма все значительно упростило). Или, когда дело доходит до компьютера, который улучшает сам себя, все может казаться крайне медленным, но иногда всего одна поправка в системе может дать 1000-кратную эффективность, приблизив его к человеческому интеллекту.
Путь от ОИИ к ИСИ
В определенный момент мы обязательно получим ОИИ – компьютеры с общим человеческим уровнем интеллекта. Компьютеры и люди будут жить вместе, в равноправии.
Или не будут.
Дело в том, что ОИИ с таким же уровнем интеллекта и вычислительной мощности, какими обладает человек, будет по-прежнему иметь значительные преимущества перед людьми. А именно:
Оборудование:
• Скорость. Нейроны мозга работают с частотой 200 Гц, в то время как современные микропроцессоры (которые значительно медленнее тех, что мы получим к моменту разработки ОИИ) работают с частотой 2 ГГц, или в 10 миллионов раз быстрее наших нейронов. И внутренние коммуникации мозга, информация по которым может передаваться со скоростью 120 м/с, существенно уступают возможности компьютеров в плане использования оптики и скорости света.
• Размер и хранение. Размер мозга ограничен размерами наших черепов, и он не может стать больше, иначе внутренним коммуникациям со скоростью обмена данных в 120 м/с потребуется слишком много времени, чтобы проходить от одной структуры к другой. Компьютеры могут расширяться до любого физического размера, задействовать еще большее количество оборудования, наращивать оперативную память и долговременную память – все это выходит за рамки наших возможностей.
• Надежность и долговечность. Не только память компьютера точнее человеческой. Компьютерные транзисторы точнее биологических нейронов и менее склонны к выходу из строя (их даже можно заменить или отремонтировать). Мозги людей быстрее устают, компьютеры же могут работать без остановки, 24 часа в сутки, 7 дней в неделю.
Программное обеспечение:
• Возможность редактирования, модернизации, более широкий спектр возможностей. В отличие от человеческого мозга, в компьютерную программу можно легко внести изменения, обновить, проэкспериментировать с ней. Модернизации могут также подвергаться и те зоны, в которых человеческие мозги слабы. Программное обеспечение человека, отвечающее за зрение, устроено гениальным образом, но мы воспринимаем только узкий спектр света. Компьютеры же могут оптимизировать полученную зрительную информацию в плане инженерии и других областей.
• Коллективная способность. Люди превосходят другие биологические виды с точки зрения грандиозного коллективного разума. Начиная с развития языка и формирования крупных сообществ, двигаясь через изобретения письма и печати и в настоящее время активизируясь с помощью таких инструментов, как Интернет, коллективный разум людей является важной причиной, по которой мы можем превосходить над всеми другими биологическими видами. Компьютеры же всё равно будут лучше. Всемирная сеть ИИ, работающих на одной программе, постоянно синхронизирующихся и саморазвивающихся, позволит мгновенно добавлять в базу новую информацию, откуда бы они ни была взята. Такая группа также сможет работать над одной целью, как одно целое, поскольку у компьютеров нет расхождения во мнениях, мотивации и личной заинтересованности, как у людей.
ИИ, который, вероятнее всего, станет ОИИ посредством запрограммированного самосовершенствования, не увидит «интеллект человеческого уровня» как важный рубеж – этот рубеж важен только для нас. У него не будет никаких причин «останавливаться» на нашем уровне. А учитывая те преимущества, которыми будет обладать даже ОИИ человеческого уровня, довольно очевидно, что человеческий интеллект станет для него мгновением в гонке за интеллектом, превосходящим человеческий.
Такое развитие событий может шокировать нас. Дело в том, что с нашей точки зрения А) мы можем сравнивать свой интеллект разве что с интеллектом животных, который изначально ниже человеческого; Б) для нас самые умные люди ВСЕГДА будут умнее самых глупых. Это выглядит приблизительно так:
То есть пока ИИ просто будет пытаться достичь нашего уровня развития, мы увидим, как он становится умнее, приближаясь к уровню животного. Когда он достигнет первого человеческого уровня – Ник Бостром использует термин «деревенский дурачок» – мы будем изумлены: «Ого, он уже мыслит, как придурок. Круто!». Однако, в общем спектре человеческого интеллекта от «деревенского дурачка» до Эйнштейна диапазон невелик – как только ИИ достигнет уровня глупца и станет ОИИ, он внезапно станет умнее Эйнштейна.
И что будет дальше?
Взрыв интеллекта
Надеюсь, вам было интересно, потому что именно с этого момента обсуждаемая нами тема выходи за рамки нормальной и становится жуткой. Нам стоит сделать паузу и напомнить себе, что каждый факт, о котором мы говорили ранее и будем говорить далее – это реальная наука и реальные прогнозы на будущее, высказанные самыми выдающимися мыслителями и учеными. Просто знайте об этом.
Итак, как мы говорили выше, все наши современные модели по достижению ОИИ включают возможность ИИ к самосовершенствованию. И как только он станет ОИИ, то даже сами эти системы и методы станут гораздо умнее в плане самосовершенствования, если только захотят.
И тут возникает интересное понятие: рекурсивное самосовершенствование. Оно работает примерно следующим образом.
Система ИИ на определенном уровне – скажем, на уровне «деревенского дурачка» – запрограммирована на совершенствование собственного интеллекта. Развившись – скажем, до уровня Эйнштейна – такая система начинает развиваться уже с интеллектом Эйнштейна: ей потребуется меньше времени на развитие, а скачки прогресса будут происходить всё больше. Эти скачки позволяют системе превзойти любого человека, они становятся всё больше и всё выше. По мере быстрого развития ОИИ демонстрирует стремительный прогресс своей интеллектуальности и становится сверхразумной системой ИСИ. Этот процесс называется взрывом интеллекта и это самый яркий пример Закона ускоряющейся отдачи.
Ученые спорят о том, как быстро ИИ достигнет уровня ОИИ. После проведенных сотнями ученых исследований большинство из них считает, что мы получим ОИИ к 2040 году, всего через 25 лет – очень маленький отрезок времени. По мнению множества теоретиков, переход от ОИИ к ИСИ тоже состоится крайне быстро. Примерно так:
Первая система ИИ достигнет самого низкого уровня общего интеллекта в течение десятилетий, но это, наконец, произойдет. Компьютер станет воспринимать окружающий нас мир как четырехлетний ребенок. Внезапно, буквально через час после достижения этого рубежа, система выдаст великую теорию физики, которая объединяет общую теорию относительности и квантовую механику, чего так и не смог сделать ни один человек. А спустя полтора часа ИИ станет ИСИ, который в 170 000 раз умнее любого человека…
У нас даже не найдется подходящих терминов, чтобы охарактеризовать суперинтеллект такого масштаба. Это выходит за рамки экономической теории Кейнса. В нашем мире понятие «умный» означает человека с IQ 130, а понятие «глупый» – человека с IQ 85, но у нас нет примеров людей с IQ 12 952.
В истории человечества есть четкое правило, которое гласит: вместе с интеллектом приходит власть. Это значит, что когда мы создадим искусственный суперинтеллект, он будет самым мощным созданием в истории жизни на Земле, и все живые существа, включая человека, будут полностью в его власти – и это может случиться уже в ближайшие десятилетия.
Если наши слабые мозги смогли придумать Wi-Fi, то что-то умнее нас в 100, 1000 или миллиард раз с легкостью сможет рассчитать положение каждого атома во вселенной в любой момент времени. Всё, что можно назвать магией, любая сила, которую приписывают всемогущему Богу – всё это будет обычным действием для ИСИ, как для нас нажать на выключатель света. Создание технологии, предотвращающей старение, лечение любых заболеваний, избавление от голода и даже смерти, управление погодой – всё внезапно станет возможным. Также возможен и мгновенный конец всей жизни на Земле. Насколько мы можем полагать, появление ИСИ будет равносильно приходу всемогущего Бога на Землю – и актуальным станет важный вопрос:
Будет ли он добрым Богом?
Тим Урбан,
Переведено специально для TradeLikeaPro.ru
А почему не сравнить количество нейронов и количество процессоров? Так не выгодно, ага? А может стоит сравнить количество транзисторов обычного компьютера и количество кубит квантового компьютера?