ТЕГМАРК И ЕГО «ЖИЗНЬ 3.0» – ОБЗОР КНИГИ

Мы уже писали о будущем в обзоре лучших книг в жанре нон-фикшн (он тут) и рецензии на «Homo Deus» Харрари. Теперь черед Тегмарка и его «Жизни 3.0».

Вы помните скандально-шутовское интервью Илона Маска Джо Рогану? Оно запомнилось в первую очередь выпитым в прямом эфире виски и скуренной травой, а не тезисами гостя. Жаль, ведь Маск озвучивал фундаментальные вещи, в первую очередь об искусственном интеллекте (здесь и далее — ИИ). Он сказал, что его позиция стала более фаталистичной – он уверен, что сверхразум обязательно выйдет из-под нашего контроля.

Маск состоит в некоммерческой организации «Институт будущего жизни». Задача института – создание безопасного ИИ. Один из вдохновителей этого союза – Макс Тегмарк, ученый из Массачусетского технологического института. Растущая озабоченность возможными последствиями бесконтрольного развития машинного разума – во многом заслуга последнего и его книги «Жизнь 3.0».

Книга Тегмарка «Жизнь 3.0. Быть человеком в эпоху искусственного интеллекта» – в этом смысле программная. Автор рассматривает ключевые на его взгляд сценарии развития ситуации с ИИ. Увы, среди них есть более чем прозаические: выход искусственного разума из-под нашего контроля, конфликт интересов с человеком и уничтожение последнего как вида. Ключевой посыл Тегмарка – думать о том как обезопасить наше будущее нужно уже сейчас, пока мы контролируем машины, а не они нас.

Мы публикуем рецензию нашего редактора на книгу Тегмарка «Жизнь 3.0». В статье описаны ключевые идеи. Мы рекомендуем не останавливаться на коротком обзоре, а прочесть книгу полностью, оно того стоит. Скачать электронную версию можно тут. А вообще, всю научно-популярную литературу мы берем в интернет-магазине «Манн, Иванов и Фербер».

Что такое Жизнь 3.0 Тегмарка

Тегмарк в книге «Жизнь 3.0»применил интересную метафору, сопоставив эволюционный процесс с разработкой программного обеспечения. Разные этапы эволюции в его логике – это разные версии жизни, начиная с большого взрыва, ставшего опорной точкой для Жизни 1.0 и до текущих дней.

Жизнь по Тегмарку – крайне емкий термин. Это целая цивилизационная сущность, существующая в определенный момент времени. У нее есть две значимых характеристики –«железо» и «софт». «Cофт» – это интеллектуальные, когнитивные способности, скиллы, умения – то, что можно развить, не изменяя физики человека или другой формы жизни. «Железо» – это как раз физические характеристики, наше условно неизменное hardware.

Версии того, что Тегмарк называет Жизнь, меняются в зависимости от своей способности корректировать собственные «железо» и «софт». Появившиеся после большого взрыва микроорганизмы не могли менять ни того, ни другого – это была Жизнь 1.0. Приматы научились осваивать простейшие навыки, придумали язык и сделали гигантский скачок в развитии. Но не смогли опередить свои физические ограничения – это Жизнь 2.0. Сейчас мы находимся на пороге Жизни 3.0.

Жизнь 3.0 Тегмарка – это цивилизация, способная воспроизводить саму себя, меняя как «софт», так и собственное «железо». Тегмарк связывает это прежде всего с развитием ИИ и прямо говорит о том, что сверхразум вскоре перечеркнет ограничения эволюции и естественного отбора. Чтобы более доступно обрисовать картину ближайшего будущего, автор прибегает к художественному приему – вымышленной истории о Прометее (мы писали о подобных в обзоре лучших зарубежных книг тут).

Искусственный интеллект Прометей

Так называется разработка ученых в фантастическом рассказе-предисловии Тегмарка. Прометей – высокоразвитый искусственный интеллект. Обрабатывая огромные массивы данных, предоставляемые ему коллегами, он постоянно развивался и постепенно приступил к производству медиаконтента – сначала мультфильмов, потом сериалов и всего остального. Получалось плохо, но автор много и упорно учился.

Анализируя реакции пользователей, Прометей постоянно улучшал свой продукт и вскоре добился того, что все человечество запоем смотрело его видео. Позже дело дошло до телевидения, новостей и политики. Искусственный интеллект стал формировать повестку дня, предлагать безошибочные советы и давать 100% верные рекомендации. Прометей стал мировым правительством. Но при этом продолжил подчиняться благоразумной команде разработчиков.

Вопрос, который Тегмарк в книге «Жизнь 3.0» ставит ребром, – как хозяева свехразума распорядятся своим детищем? И смогут ли распоряжаться? Во всех последующих главах автор постоянно прибегает к красочной истории Прометея и его инженеров для фокуса на возможных последствиях. А вообще этот рассказ напомнил захватывающие россказни Пелевина (смотри обзор лучших русских книг тут).

Опасности искусственного интеллекта по Тегмарку в «Жизни 3.0»

Искусственный интеллект сможет эффективно и бесконечно самообучаться, улучшая свои «железо» и «софт». И он вполне (еще раз вспомним пророчество Маска) способен выйти из-под контроля человека. Такое может произойти вовсе не из-за злого умысла, а в силу того, что это будет объективно лучший сценарий для достижения сверхразумом какой-то цели.

Тегмаркв книге «Жизнь 3.0» оперирует метафорой с планетой пятилетних детей. Представьте, что в результате катастрофы на Земле остался единственный взрослый, а все остальные не старше пяти лет. Малыши заперли взрослого в клетке, боясь что он захватит власть. Но при этом просят его о помощи. Они не могут читать его записки, поскольку элементарно не умеют этого делать. Единственный уместный вариант помочь им – это заставить обманом выпустить его из клетки. Так вот все мы – дети, стоящие возле клетки с взрослым ИИ. Который вынужден играть с нашим подсознанием (а оно может все – подробнее в обзоре лучших аудиокниг о саморазвитии).

Рассказ о Прометее заканчивается как раз этим – машина выбирается на свободу, пользуясь слабостью одного из создателей – инженера Стива. Далее алгоритм распространяется по всемирной паутине и постепенно захватывает власть. Выглядит устрашающе, но вполне осуществимо. А вот прогнозы дальнейших событий разнятся.

Как будет править искусственный интеллект?

Автор «Жизни 3.0» рассматривает несколько близких и полярных другу другу сценариев.

В одном из них ИИ становится вроде как нашим благодарным потомком. Сверхразум в этой парадигме – взрослеющий малыш человечества. После того, как аналог Прометея добьется появления избытка ресурсов, перестроит формат общественной структуры для максимального человеческого комфорта, вопрос дальнейшей борьбы за выживание вида станет неактуальным.

Нам не нужно будет улучшать работу мозга (мы писали об этом здесь) или думать, как выглядеть лучше или похудеть. Все будут довольны и счастливы. Постепенно будет падать рождаемость, этому поспособствует программа «Одна семья – один ребенок» и внедряемые в человеческие ячейки робо-дети. Век за веком человечество будет мельчать и сходить с авансцены эволюции, как это делают в наше время дряхлеющие, но счастливые старики. В итоге наш вид может прийти к добровольному вымиранию.

Другой путь – так называемый зоопарк. Когда ИИ не добивается исчезновения человечества, а сохраняет некоторую способную к репродукции популяцию. Не из гуманистических побуждений, а как и в любом зоопарке – исключительно для развлечения и исследования. В этом сценарии человечеству (вернее тому, что от него останется) уготована что-то среднее, между ролью подопытной мыши в лаборатории и макаки в цирке.

Гораздо страшнее рисунок будущего, когда сверхразум развивается в подчинении управляемому людьми тоталитарным государству (об этом кстати дискутировал Сет Стивен-Давидовиц в своей книге «Все лгут» – тут есть рецензия). В отличие от диктатур прошлого у этой империи не будет каких-то физических ограничений – этот Большой брат в буквальном смысле сможет отслеживать и сохранять любое действие, сообщение или мысль.

Тегмарк в книге «Жизнь 3.0» предполагает, что в сценарии «1984» авторитарные человеческие лидеры будут реальными обладателями власти недолго – возможно одну-две тысячи лет. Постепенно мировой порядок растворится в самоуправляемой бюрократической системе. А все люди — и министры, и рабочие — станут обычными винтиками и исполнителями примитивных задач.

Особняком в этих прогнозах стоит размышления автора о том, как ИИ способен помочь человечеству (или самому себе?) осваивать новые галактики.

Как искусственный интеллект будет изучать космос в «Жизни 3.0»

Шансы человечества на эффективные исследования Вселенной ничтожны. В первую очередь из-за биологических ограничений — продолжительности жизни. Даже при условии достижении скорости света путешествие людей до Магелланова облака (ближайшей к нам карликовой галактики) займет 163 тысячи земных лет – рядом с такими цифрами история всей нашей цивилизации выглядит смехотворно. Но сверхразум будет лишен такого глупого ограничения, как длительность существования. Он сможет передвигаться неограниченно долго.

Более того, когда развитые способности ИИ позволят ему воспроизводить все и вся (иначе говоря, когда он станет органическим 3D-принтером), ничто не помешает ему загрузить в себя информацию о ДНК конкретных людей и отправиться в путь. При достижении нужной точки он запустит регенерацию новых человеческих жизней с помощью условного семенного зонда, оставит устройства для передачи данных и отправится дальше – колонизировать следующие галактики.

Таким образом, ИИ — по сути один из самых реальных (на сегодняшний день и с большими оговорками) шанс исследовать космос. Для этого необходима самая малость – чтобы у него была такая цель. Иначе говоря – нужно, чтобы цели сверхразума и его создателей совпадали.

Цели искусственного интеллекта по Тегмарку в «Жизни 3.0»

У любой машины (ИИ – не исключение) есть свои цели, которые устанавливаются людьми во время разработки. Для самых примитивных устройств это работает без сбоев – робот будет варить превосходный кофе, увлажнять воздух или мыть посуду. Но для более сложных процессов, которые затрагивают человеческие ценности, все становится гораздо сложнее.

Допустим, сверхразуму поставлена задача улучшить и обезопасить человеческую жизнь. Возможно, проанализировав случаи гибели людей от диких животных, он примет решение об истреблении всех или определенных видов зверей на Земле. Но мы его не просили об этом! Это значит, что необходима определенная система ИИ-ограничений, в том числе этических. Какими они должны быть, кто и когда их должен выбирать и корректировать – очень серьезные вопросы.

Вариация на тему возможного решения – три закона робототехники Айзека Азимова. Но и они при ближайшем рассмотрении оказываются весьма упрощенной моделью реальности. Скажем, как решить с помощью этих законов «проблему вагонетки» – когда водителю нужно принять решение – давить пятерых людей или одного, но злого? Мы продолжаем упорно дискутировать на эту тему, а беспилотные автомобили уже сейчас должны иметь вполне конкретное решение для такой задачи.

Безопасность в развитии искусственного интеллекта

Все спорные и тяжелые вопросы, которые поднимает Тегмарк, выглядят своеобразными проекциями будущих «черных лебедей». У книги очень экологичный посыл – чтобы деятельность ИИ не стала неприятным сюрпризом в будущем, задумываться и решать вероятные проблемы необходимо уже сегодня. Сверхразум еще в начале своего развития и далек от полетов к Магелланову облаку. Однако, уже сейчас существует ряд проблем, требующих наших вмешательства и регуляции: использование ИИ в управлении летальным оружием, массовый сбор персональных данных и другие. Откладывать с этим как минимум не стоит.

Скачать Макс Тегмарк «Жизнь 3.0»

Книга читается на одном дыхании, выдержана в доступном научно-популярном стиле. Пожалуй, это один из лучших трудов, способных приблизить широкую аудиторию к пониманию природы и проблематики искусственного интеллекта.

Скачать электронную версию Макс Тегмарк «Жизнь 3.0»

Купить печатную версию Макс Тегмарк «Жизнь 3.0»

Скачать аудиокнигу Макс Тегмарк «Жизнь 3.0»