Одним из величайших мифов, на котором зиждилась экономика конца двадцатого столетия, был миф экспоненциального роста. Предполагалось, что технологии будут меняться еще быстрее, так что экономика тоже будет расти по экспоненте, сделав нас всех богаче наших родителей и несоизмеримо богаче наших прадедов. Однако, похоже, с 2000 года все пошло не так, по крайней мере, в экономике. Проблема частично связана с оттоком капитала в развивающиеся рынки, ставшим возможным благодаря Интернету и современным коммуникациям. Однако за рамками даже этой неудобной реальности лежит по-настоящему тревожная мысль о том, что технический прогресс, и таким образом, возможность улучшения уровня жизни, может вовсе и не вызывать никакого экспоненциального роста.
В видении нескольких энтузиастов вера в экспоненциальный технический прогресс трансформировалась в сингулярность, которая либо уже происходит, либо вот-вот нас настигнет. Предполагается, что она приведет к дальнейшей акселерации прогресса, которая будет такой мощной, что будущее истории человечества будет очень сильно отличаться от прошлого.
Но перед тем, как приветствовать появление сингулярности, следует отметить, что, по мнению сторонников этой теории, она будет вызвана появлением более умных, чем люди, машин, которые впоследствии одержат верх, создадут еще более умных роботов и оставят человечество «в хвосте». Таким образом, сингулярность будет представлять собой не почти бесконечное улучшение качества жизни человечества, потому что, по-видимому, такие сверхразумные машины не особенно будут интересоваться уровнем жизни людей – или вообще захотят использовать нас как подопытных или домашних животных. (Если последнее, я, несомненно, окажусь в первых рядах претендентов на ликвидацию – вряд ли я обладаю качествами домашнего животного, регулярно проявляемых нашей кошкой Евдоксией).
Подумав логически, можно выделить три сингулярности, уже имевших место в истории человечества: появление речи, переход от кочевой жизни к оседлому сельскому хозяйству, а впоследствии Промышленная революция. Каждое из этих явлений десятикратно ускоряло развитие человечества, так что изменения, на которые под влиянием одной только эволюции уходили миллионы лет, после появления речи начали происходить за сотни тысяч лет, с изобретением земледелия – за десятки тысяч лет, и всего за два-три столетия – после Промышленной революции. Каждое из этих изменений совершенно меняло жизнь; она также двигалась в более быстром темпе, а после Промышленной революции за одну короткую человеческую жизнь происходят громадные технологические сдвиги.
Стоит подробнее остановиться на сингулярности Промышленной революции. Она продолжалась примерно 200 лет, и ни одна из ее первых инновация не привносила существенных жизненных изменений. Машина Ньюкомена (Newcomen) для откачки воды в шахтах, изобретенная в 1712 году, не привела к серьезным изменениям напрямую, за ней не последовало никакого намного более совершенного двигателя, как у Джеймса Ватта (James Watt), до 1769 года (а двигатели Уотта вошли в широкое применение лишь в 1790-е годы). Однако технологическая революция сопровождалась столь же важной революцией в человеческом мышлении, которая началась примерно с основания Королевского научного общества в 1662 году и продолжилась «Богатством наций» Адама Смита (Adam Smith) (в 1776 году) до начала 19-го века.
Таким образом, даже несмотря на то, что гражданин 1785 года не особенно наслаждался техническими достижениями по сравнению с его предком из 1660 года, в то время как веком раньше алхимики высмеивались на картине знаменитого Джозефа Райта (Joseph Wright),сейчас она служит обложкой для «Алхимиков потерь». Первые громадные технические плоды Промышленной революции появились позднее – текстильное производство приняло масштаб, только начиная с 1790-х годов, а сеть железных дорог появилась только после 1830 года – но умственные изменения, сформировавшие сингулярность, уже произошли к 1785 году или около того.
В этом смысле нам пока не грозит никакая сингулярность. Интернет, кардинально изменивший мировые коммуникации и наш образ жизни, является не более существенным революционным сдвигом, чем электрический свет, телефон или автомобиль. Жизнь в 2010 году на самом деле отличается от жизни в 1995 году. Сегодня мы можем организовать мировое производство или компанию по оказанию услуг намного эффективнее, чем в 1995 году. Большую часть жизни вне сна молодежь проводит в Интернете или в разговорах по мобильному телефону, что до 1995 года она делать не могла.
Однако так было и через 15-20 лет после появления предыдущих судьбоносных технологий. В 1845 году, после изобретения железных дорог, модель путешествий уже отличалась от модели 1830 года. В 1905 году, после изобретения электричества, городские модели работы в вечернее время и развлечений очень сильно отличались от моделей 1890 года. Подобно этому, жизнь в сельской местности Америки в 1925 году с появлением «Жестянки Лиззи» (Ford Model T) стала совершенно иной, чем в 1910 году.
Таким образом, каждое из этих изобретений кардинально меняло какие-то стороны жизненного уклада, но при этом они все же не ускоряли сам процесс изобретения и прогресс, как Промышленная революция. После распространения изобретений жизнь становилась другой, но темп технического прогресса был весьма умеренным. Интернет похож на инновацию подобного типа: он существенно изменил нашу жизнь, но не настолько ускорил изменения, как Промышленная революция, и предпосылок к этому нет. В самом деле, кто-то может справедливо возразить, что поколение, ставшее свидетелем большей части революционных изменений, жило во времена моей двоюродной бабушки Беатрисы, которая родилась в 1889 году и умерла в 1973 году. Во времена ее детства применялось газовое освещение и тягловые лошади, а в старости уже вовсю летали на самолетах и побывали на Луне.
В перспективе существуют три вероятных технологических достижения, потенциально способных ускорить темп изменений, даже если они не вызовут сингулярности. Это: создание машины умнее человека, открытие методов манипуляций с генами, способных увеличить когнитивные способности человека, а также открытия технического, медицинского или генетического характера, которые могут привести к значительному увеличению продолжительности человеческой жизни.
Возможность появления супер-робота считалась самой популярной причиной предполагаемой сингулярности, но при ближайшем рассмотрении оказывается, что это вряд ли приведет к ней. Приверженцы теории сингулярности любят цитировать закон Мура – теорию, предложенную Гордоном Муром (Gordon Moore) в 1965 году, согласно которой компьютерная скорость обработки данных удваивается каждые два года. Однако в реальности мы всерьез приближаемся к пределу этой прогрессии; сдерживающими факторами являются скорость света, энергия, требуемая для работы микропроцессоров (которые выделяют тепло), длина волны электромагнитного излучения и размер атомных структур.
Через пару поколений по закону Мура мы приблизимся к временному барьеру, который существенно усложнит прогресс, а через 5-6 поколений по этому же закону – к барьеру постоянному, за которым при вообразимых на данный момент технологиях прогресс будет невозможен. Нужно признать, что дальнейший прогресс в сфере компьютерного интеллекта реализуем путем улучшения программирования и архитектуры с массовым параллелизмом, но реальность такова, что после прогресса 2015-2020 годов в этой области начнется существенное ЗАМЕДЛЕНИЕ, а не ускорение. Так же как и последним, действительно революционным изменением в дизайне автомобилей было изобретение автоматической трансмиссии в 1939 году, очевидно, бесконечный прогресс в машинном проектировании постепенно достигнет естественного предела.
Генная инженерия с целью улучшения умственных способностей человека, несомненно, изменит наш мир, но это, вероятно, случится очень нескоро, потому что таким изменениям будут резко противостоять большинство западных религиозных групп и правительств. Даже простое клонирование, которое является простым воспроизведением существующей особи, не намного продвинулось за десять лет, и может задержаться в развитии на целое поколение в будущем. Даже с разрешением правительств могут быть проведены проверки на безопасность, необходимые перед началом экспериментов по расширению интеллектуальных возможностей, существует вероятность того, что первые подобные испытания просто приведут к увеличению умственных способностей до существующего уровня, а не к их расширению. Кроме того, из-за биологической потребности этих детей в созревании до 15-летнего возраста, получения высшего образования в течение последующих 5-10 лет, результат этих изменений проявится не ранее чем через 50 лет в будущем. В этом смысле супер-робот, будь он реальным, может быть создан быстрее, так как он сразу будет взрослым! Учитывая тот факт, что первые экземпляры Улучшенного Человека будут составлять ничтожную часть человеческой/новой человеческой расы, становится очевидно, что никакого макро-ускорения отсюда не следует ожидать до следующего века.
Третья потенциальная технология, продление жизни, уже интереснее. Технически любой существенный эффект (помимо медицинских достижений, увеличивающих процент людей, доживающих до 90-100 лет), скорее всего, потребует подобных умений для производства жизни с более высоким уровнем интеллекта. Однако эта сфера столкнется с гораздо меньшим сопротивлением луддитов со стороны политиков и религиозных лидеров, так как преимущества более длинной жизни очевидны и теоретически универсальны. С другой стороны, увеличивать продолжительность жизни уже живущих будет гораздо сложнее, чем создавать новых людей-долгожителей, и скорее всего, это произойдет позднее.
Получается, что к 2050 году мы, вероятно, получим возможность рожать детей, которые будут жить 150-200 лет (то есть дольше, чем потребуется для обретения возможности преодолеть сдерживающие факторы, о которых мы еще не знаем, потому что они не затрагивают не-долгожителей). Через какое-то время после этого мы научимся хотя бы частично увеличивать продолжительность жизни уже существующих людей. Учитывая потенциальный массовый спрос на подобные технологии, они должны быстро распространиться среди большинства людей, так как массовое производство позволит снизить их стоимость до допустимого уровня.
Однако в то время как увеличение жизненного цикла намного улучшит жизнь человека, оно не ускорит прогресс. Долгожители не приступят к работе, по крайней мере, до 25 лет, потому что они будут получать более всестороннее образование, чем мы. Выйдя на работу, они будут менее склонны к риску и терпеливее нас, так как запаздывание будет поглощать меньшую часть оставшейся жизни. В свою очередь, даже без дальнейшей акселерации, им потребуется повторное образование каждые 20-25 лет, чтобы их рабочие навыки не успели безнадежно устареть. Так как расходы для них в условиях быстрых изменений будут больше, чем для нас, а преимущества – меньше, они сами захотят замедлить прогресс. Только в сочетании с более высоким уровнем интеллекта они будут способны принять головокружительный послереволюционный темп изменений.
На данный момент я рассматривал возможную акселерацию положительных изменений. Однако существует возможность катастрофически негативных перемен, которые способны вернуть цивилизацию, уровень жизни и знания на более примитивную ступень. Одним из возможных источников этого является мировая война, возможно, отличная от той, что была 50 лет назад. Еще одним фактором может быть экологическая катастрофа. Здесь ничего хорошего не предвидится. Нынешний неотвратимый рост населения, который, очевидно, замедлится, но не прекратится к 2050 году, усугубится открытиями, которые привели к росту продолжительности жизни до 200 лет, как из-за снижения количества смертей, так и из-за увеличения рождаемости благодаря тому, что способность к воспроизведению будет сохраняться в течение 100 лет. Является глобальное потепление серьезной проблемой в мире с населением от 7 до 10 млрд, еще вопрос, но оно, несомненно, превратится в серьезную проблему в мире с населением в 20 млрд человек (и истощение ресурсов будет, соответственно, представлять собой более реальную опасность). Соответственно, основным приоритетом должны быть меры для замедления роста населения или, даже лучше, возврата к сокращению. В конце концов, до последней сингулярности мировое население составляло всего 1 млрд; при таком уровне наши проблемы с окружающей средой и ресурсами исчезли бы.
Помимо возможности коллапса, две или три вероятных технологических разработки следующих 50 лет – достижение предела Закона Мура и увеличение продолжительности жизни – скорее, замедлят темп изменений, нежели ускорят его. Только третий вариант – генетически улучшенный интеллект – обладает потенциалом к ускорению прогресса, но системное противостояние этой технологии, вероятно, задержит ее очень надолго. Кривая развития человечества в 21-м веке, таким образом, будет асимптотической [ограниченной], а не экспоненциальной.
Хатчинсон, Мартин
Hutchinson, Martin
Автор книги "Великие Консерваторы" "Great Conservatives" (Academica Press, 2005). Постоянный автор www.prudentbear.com. Инвестиционный банкир на пенсии.
