Понятие «технологическая сингулярность» описывает момент, когда технический прогресс станет настолько сложным, что будет недоступным пониманию. Такой момент предсказывался еще в 1993 году американским писателем и профессором математики Вернором Винджем. Позже эту идею развил футуролог Рэй Курцвейл, который сдвинул наступление сингулярности с 2030 года на 2049-й. Так что уже в следующем десятилетии мы увидим, выйдет ли волна прогресса на новый виток развития или захлебнётся сама в себе.
В области искусственного интеллекта (ИИ) сейчас происходит небывалый рост определенных количественных показателей — настолько быстрый, что дальше так продолжаться не может. Например, параметры нейронных сетей увеличиваются в десять раз каждый год, а количество вычислений, нужных для их тренировки, удваивается каждые три месяца.
Эту информацию можно интерпретировать двояко: либо это он — давно ожидавшийся сверхэкспоненциальный рост, либо это попытки проехать еще немного на мертвой лошади, ведь показательный рост размеров систем ИИ отнюдь не сопровождается таким же ростом качества в смысле их близости к универсальному искусственному разуму (AGI, или Artificial General Intelligence. — РБК Тренды). При этом разработать устойчиво сильный ИИ — основная задача XXI века, так как не него возлагают дальнейшую судьбу цивилизации.
Сильный Искусственный интеллект: друг или враг?
Есть мнение, что сильный ИИ либо убьет человечество, либо сделает людей бессмертными. Поэтому он и называется сильным, так как способен решать задачи невероятного масштаба. Однако даже без ИИ сценарий будущего будет основываться на одном из этих двух путей: эволюции в сторону радикального продления жизни или перехода к тем или иным вариантам глобальной катастрофы.
Возникает вопрос: будет ли быстрый прогресс более управляемым, чем медленный?
Если прогресс замедлится и мы останемся с имеющимся набором технологий, то все существующие ресурсы можно считать конечными, так как для разработки принципиально новых ресурсов нужны новые технологии. Экспоненциальное развитие экономики в мире с конечным количеством ресурсов приводит к их исчерпанию примерно за 100 лет, при этом загрязняется все, что можно, и затем наступает коллапс.
Если прогресс не остановится, то мы в конечном счете создадим «сверхтехнологии»: сильный ИИ, нанотехнологии и биотехнологии, которые позволяют нам делать все, что угодно, с информацией, веществом и живой материей соответственно. Это означает очень большие возможности и очень большие риски, при которых возможен не просто коллапс, но и глобальная катастрофа и вымирание людей. В конечном счете масштаб разворачивающихся событий будет зависеть от скорости развития технологий.
Куда смотреть следующие 10 лет, чтобы не проспать революцию?
Направление развития человечества укажет множество факторов, и мы можем отслеживать ключевые.
1. С какой скоростью будет развиваться искусственный интеллект.
Эта скорость покажет, начнется ли новая «зима» или наступит то, что учёные называют «инфрачеловеческий» уровень. На инфрачеловеческом уровне, например, можно будет создать робота, способного приготовить и принести кофе, не разнеся при этом половины дома, не налив в чашку чистящее средство и не упав на кота. Такой ИИ — это не сверхинтеллект и даже не искусственный ученый-мыслитель, но это важное плато, на котором возможна коммерциализация и консолидация для следующего рывка.
2. Не выдохнется ли революция на уровне электротранспорта и возобновляемых источниках энергии.
3. Сможет ли «взрыв» числа стартапов в области долголетия трансформироваться в реальное увеличение средней ожидаемой продолжительности жизни, и какова будет судьба общественных движений, выступающих за это.
4. В какую сторону будет развиваться политическая ситуация в мире, и не приведет ли она к некой масштабной войне.
Собственно, основной вопрос будущего — будем ли мы жить или умрем, и он скрывается за всеми остальными вопросами о том, насколько быстро будет происходить глобальное потепление, возможна ли ядерная война и каковы успехи у проектов по редактированию человеческого генома.
Но футурология — это не про однозначное предсказание будущего, а про осознание альтернатив, основных путей развития; понимание, где между ними находится развилка и какими своими действиями прямо сейчас мы выбираем эту альтернативу.
При этом, однако, будущее скрыто от нас туманами разной степени непрозрачности. Один из них — это иллюзия предсказуемости, уверенность в том, что все останется так же, как есть сейчас. Оно, возможно, и останется в каких-то сферах еще год, в каких-то — пять, но не в том виде, в котором мы ожидаем. Затем возникает некий ореол неоднозначности: к примеру, мы пока не знаем, кто будет следующим президентом, но можем обозначить несколько вероятных фигур. Однако дальше туман сгущается: какие-то части будущего видны, а какие-то совершенно непредсказуемы. После чего начинается сплошная пелена.
Два главных сценария будущего
Скажем сразу, сценарии эти строго противоположны: курс на бессмертие для всех или глобальная катастрофа. И оба сценария существуют одновременно.
Почему так? Равновесие между силами прогресса и силами разрушения очень трудно поддерживать. Всякое «устойчивое развитие» внутренне нестабильно: оно или уходит в бесконечное ускорение сингулярного прогресса, или разваливается под тяжестью накапливающихся проблем. Даже те проблемы, которые мы создаем на нынешнем уровне, невозможно на нем же и решить. Взять ситуацию с мусором: чтобы с ней разобраться, нужны роботы-сортировщики, биологические катализаторы разложения и, может быть, даже молекулярные наноассемблеры (устройства наноразмеров, способные собирать из отдельных атомов или молекул любые сложные конструкции по заданному плану), то есть продукты более высокого технологического уклада. Однако новые технологии породят и новые проблемы, которые нам трудно представить: например, некий «высокотехнологический мусор», который будет состоять из сопротивляющихся своему разрушению наномеханизмов. В результате получается ситуация, в которой, чтобы убежать от лавины изменений, нужно бежать впереди неё.
Бесконечное ускорение прогресса может гипотетически привести и к новому стабильному состоянию, которое мы условно называем «сверхинтеллект» (как в книге «Сверхинтеллект» философа Ника Бострома). Возможно ли это — неизвестно, но он, как точка Омега французского теолога Тейяра де Шардена (состояние наиболее организованной сложности и одновременно наивысшего сознания. — РБК Тренды), возникает в конце любого мыслимого прогресса.
Разрушение, в свою очередь, также не может быть бесконечным, оно может достичь дна, снизу которого уже никто не постучит. Это, пожалуй, уровень самоподдерживающейся средневековой деревни или полное вымирание. В конце концов, мы имеем только два стабильных итога, ожидающихся в отдаленном будущем: или «сверхинтеллект» (дающий ключи к бессмертию), или небытие.
Источник: https://zen.yandex.ru/media/rbc_trends/kuda-privedet-progress-k-vechnoi-jizni-ili-globalnoi-katastrofe-5fcb9706788eda75c7c427ae
