Форма жизни № 4: Как остаться человеком в эпоху расцвета искусственного интеллекта бесплатное чтение

Редактор Сырлыбай Айбусинов

Главный редактор С. Турко

Руководитель проекта М. Красавина

Арт-директор Ю. Буга

Дизайн обложки В. Голыженков

Корректоры О. Улантикова, А. Кондратова

Компьютерная верстка М. Поташкин

© Евгений Черешнев, 2022

© Валерий Голыженков, обложка, 2022

© ООО «Альпина Паблишер», 2022

Все права защищены. Данная электронная книга предназначена исключительно для частного использования в личных (некоммерческих) целях. Электронная книга, ее части, фрагменты и элементы, включая текст, изображения и иное, не подлежат копированию и любому другому использованию без разрешения правообладателя. В частности, запрещено такое использование, в результате которого электронная книга, ее часть, фрагмент или элемент станут доступными ограниченному или неопределенному кругу лиц, в том числе посредством сети интернет, независимо от того, будет предоставляться доступ за плату или безвозмездно.

Копирование, воспроизведение и иное использование электронной книги, ее частей, фрагментов и элементов, выходящее за пределы частного использования в личных (некоммерческих) целях, без согласия правообладателя является незаконным и влечет уголовную, административную и гражданскую ответственность.

– Вы свиньи, вы. Вы гниете, как свиньи, и все. В вас есть многое, вы же довольствуетесь крохами. Слышите меня, вы? У вас есть миллионы, а вы расходуете гроши. В вас есть гений, а мыслей что у чокнутого. В вас есть сердце, а вы чувствуете лишь пустоту…

АЛЬФРЕД БЕСТЕР. ТИГР! ТИГР!ВАЛЕРИЙ ГОЛЫЖЕНКОВ

о применении генеративного дизайна в работе над обложкой книги:

«Образ на обложке сложился, с одной стороны, благодаря действию компьютерного алгоритма, который выстраивал одному ему понятные связи, создавая по ключевым точкам новое изображение классического портрета, с другой стороны – не без участия человека, который выбрал из множества возможностей финальный результат».

Благодарности

Моим родителям

Спасибо вам, что так бережно держали маленького меня за ручки, когда я разбегался по аэродрому детства, и показывали правильные ориентиры. И за то, что нашли силы полностью меня отпустить, когда пришло время. Чтобы я смог выбрать свой собственный курс и полететь в полную неизвестность. И хоть что-то понять.

Мудрому деду Ивану Павловичу, который не дожил до выхода книги всего несколько месяцев

Спасибо, что вдохновлял родителей дарить мне много книг и конструкторов и мало солдатиков. Эта книга – и твоих рук дело.

Моей невероятной супруге Ольге, вдохновившей меня на эту книгу

Только когда ты целовала мои закрытые и усталые глаза, я начинал по-настоящему видеть.

Издателю Марине Красавиной, редактору Сырлыбаю Айбусинову и всему коллективу «Альпины»

Терпение – это последний ключ, открывающий двери. Это не я сказал, а Антуан де Сент-Экзюпери. Он тоже был когда-то автором, срывающим сроки. Но его стоило подождать ☺ Эта книга была бы невозможна без вашего терпения, мудрости, честности и бесконечно бережного отношения к мыслям. Низкий вам поклон.

Алексею Маланову

Очень мало людей умеет говорить просто о сложном. И еще меньше способны помогать это делать другим. Ты умеешь делать и первое, и второе. Твои комментарии и замечания, всегда честные, меткие и критичные, сделали эту книгу лучше. Потому, что глупец критикует. А мудрец предлагает, как сделать лучше. Спасибо тебе, брат по оружию, за твою мудрость, поддержку и огромное терпение.

Сергею Ложкину

Персонаж Джона Спартана в фильме «Разрушитель» сказал: «Чтобы поймать маньяка, нужен другой маньяк». Это про тебя. Спасибо, что воюешь с киберпреступностью на стороне добра. И нашел на этой бесконечной войне время проверять факты о кибербезопасности, хакинге и антихакинге для книги друга. Hasta la victoria siempre!

Предисловие

Чтобы достичь совершенства в чем-то, человеку, по утверждению Малкольма Гладуэлла, автора книги «Гении и аутсайдеры»[1], нужно около 10 000 часов занятий. Неважно, о чем речь – об игре на фортепиано, китайском языке или программировании на языке С++, – путь к званию эксперта лежит через время и упорную практику. Мозг человека содержит нейронную сеть – сложную электромагнитную сущность, которая отвечает за нашу способность чему бы то ни было обучаться; чем чаще человек повторяет какое-то конкретное действие или упражнение – от удара по футбольному мячу до доказательства сложной теоремы, – тем лучше он справляется с каждой последующей задачей подобного типа.

Самые сложные системы искусственного интеллекта (ИИ), созданные человеком, представляют собой сочетания разнообразных методов и алгоритмов, но по большей части мы учим машину решать узкие прикладные задачи примерно так же, как учимся сами, – стараемся заложить в искусственно создаваемые нейронные сети описание той или иной задачи и дать машине как можно больше примеров успешного и неуспешного ее решения. ИИ, как и человек, тратит время на то, чтобы «научиться» быть эффективнее через многочисленные повторные «подходы к снаряду». Просто, в отличие от человека, время, имеющееся в распоряжении компьютера, ничем, по сути, не ограничено: компьютер не ждет смерть от инфаркта или упавшего на голову кирпича; до тех пор, пока во Вселенной будет энергия для питания вычислительных мощностей, искусственный интеллект, который мы, люди, создаем, будет жить и развиваться. Да и ограничения в 10 000 часов у него нет – машина способна обучаться на миллионах компьютеров и серверов параллельно и тратить на оттачивание того или иного навыка миллионы человеческих лет. Поэтому неудивительно, что с каждым годом качество работы ИИ будет расти, спектр возможностей применения – расширяться, а себестоимость его использования – падать. Следовательно, будет расти и популярность ИИ у бизнеса и государственных структур – ведь что может быть лучше, чем комбинация «эффективнее + дешевле»?

В этой связи невозможно не задавать себе очевидные вопросы – если машины развиваются так эффективно, какова же наша, людей, судьба, с точки зрения безжалостной эволюции? Ведь нас, жителей Земли, летом 2020-го стало 7,8 млрд и мы уверенно идем к отметке в 10 млрд – пока что население растет. Но будем ли мы нужны Природе через несколько тысяч или даже сотен лет, если подавляющая часть технологических трендов XXI века связана именно с ИИ, то есть перекладыванием задач с человека на изучаемую им искусственную форму жизни (пусть на данной стадии с поправкой на тезис «не все живое разумно»)?

Из этого вопроса вытекает масса других. Например, почему, если big data, то есть большие данные (информация о людях, процессах, явлениях и разнообразные типы данных, о которых детально поговорим чуть позже), так важны и бесценны для развития технологий искусственного интеллекта, их с такой простотой отбирают у граждан и компаний всего несколько монополий? Нет ли тут долгосрочных рисков для современного человечества со сложившимся хрупким балансом сил? Наконец, а что такое эти самые «большие данные» и из чего они на самом деле состоят? И почему понятия «приватность» и «право на неприкосновенность частной жизни и тайну переписки» в современном мире, где правят бал big data, практически отсутствуют? Как так вышло?

До зимы 2015-го я, как и многие из вас, задумывался об этих вопросах весьма условно: ну есть тренды и есть, одни более перспективны, другие менее, а ИИ всего лишь один из них, что тут особенного? Вопросы и сложные моменты есть всегда и в любых инновациях – ничто по-настоящему большое не начинается гладко. Но в феврале 2015-го я предпринял эксперимент, который заставил меня посмотреть на мир big data и ИИ совершенно под новым углом – имплантировав в руку самый настоящий биочип, я увидел то, как может выглядеть наш мир в недалеком будущем, – Вселенную, в которой ни один человек, даже ребенок, не в силах отключиться от сети по своей воле.

И вопросов стало еще больше. Я начал разбираться в них, копать, исследовать, разумеется попутно совершая ошибки, – это была своеобразная тренировка своей нейронной сети на понимание потенциала развития рынка big data и ИИ: автоматизации, цифровизации, персонализации, кибербезопасности и многих других сфер. Когда я потратил на эту задачу больше 10 000 часов, возникла идея написать книгу. По сути, она содержит результаты моих наблюдений, умозаключений, экспертной оценки в данных областях. Я постарался провести некоторые параллели между ИИ и физикой, психологией, социологией, антропологией, программированием и объективной логикой. Посмотреть на big data и ИИ с точки зрения эволюции и подумать о том, к чему может привести текущий вектор развития технологий и как это скажется на каждом из нас – лично на вас, окружающих, детях и внуках. В том числе я постарался описать все основные направления применения ИИ сегодня и все основные будущие применения, то есть обозначить те сферы, где нужда в человеке, по всей видимости, очень скоро отпадет.

Сразу скажу – я не сторонник теорий заговора или гипотез полой Луны и не критик дарвинизма. Я приверженец научного подхода, основанного на фактах и проверяемой информации. Поэтому, если вы ждете уличения иллюминатов во всемирном заговоре или доказательств того, что Земля плоская и управляется масонским ИИ под руководством чипированного Билла Гейтса, сидящего на вышке 5G, – лучше вам книгу закрыть прямо сейчас. Эта книга – дань научному поиску, неутолимой жажде задавать вопросы и искать доказательные, проверяемые в лабораториях ответы. В отличие от служителей культа, я не призываю вас обратиться в мою веру. Вы можете не разделять моего мнения. В этом, в конце концов, и заключается смысл эволюции – спор рассудит не исход словесных баталий, а неумолимая жизнь с ее конкуренцией, в которой выигрывают не только самые приспособленные из видов, но и наиболее точно описывающие действительность идеи.

Многие из нас бьются в поисках смысла жизни. Но, нравится кому-то или нет, объяснить его очень просто, достаточно посмотреть на историю мироздания и вывести простые логические закономерности из нее. Нам кажется, что наш жизненный путь наполнен самостоятельно принимаемыми решениями, но на деле мы всего лишь участвуем в процессе, выполняя в нем заранее определенные функции, главная суть которых – постоянное усложнение состояния Вселенной, создание новых связей и элементов, которых вчера еще не существовало. Примерно так, как зарождающийся мозг ребенка создает все новые и новые связи между нейронами, так и мы сперва создаем повозки, а затем паровые машины, самолеты и ракеты. Усложнение – это присущее всем системам свойство. В этом нет никакого телеологического детерминизма, когда все сводится к мистической идее всеобъемлющей цели Природы – просто на каждом витке эволюции выигрывает более сложная система (или имеющая потенциал для дальнейшего усложнения).

Разум, постигая мир, создает новое знание, которого вчера еще не было. Но оно неизбежно усложняет картину мира. Въедливый читатель тут может спросить: «А как же насчет того, что все гениальное – просто? Разве, к примеру, гелиоцентрическая система, сменившая геоцентрическую с ее сложной системой деферентов, эпициклов и эквантов, не упростила понимание мира?» Тут не следует обманываться видимой простотой многих новых идей – на деле они дают старт новой сложности. Как раз геоцентрическая система мира была простой для понимания: Земля являлась в ней единственной физической реальностью, а весь окружающий ее мир – всего лишь бестелесной абстракцией, подчиняющейся определенным законам движения. Сложность была лишь в подгонке результатов наблюдения движения Солнца, Луны и планет к комбинации круговых движений. Идея гелиоцентрической системы мира, выдвинутая Николаем Коперником, заставила человечество осознать пугающую сложность Вселенной – ведь Земля превратилась в рядовую планету Солнечной системы, а небесные тела стали материальной реальностью, порождающей множество вопросов. А окончательную логическую завершенность система Коперника обрела с открытием Иоганном Кеплером законов движения, а ведь содержавшееся в них утверждение, что планеты двигаются по эллиптическим орбитам с постоянно меняющейся скоростью, было далеко не тривиально.

Наши понятия о «хорошо» и «плохо», основанные на священных текстах или социальном опыте, иррелевантны главным движущим силам Вселенной – усложнению и созданию новых знаний. Любое событие или поступок можно пропустить через фильтр этих ценностей и получить ответ, хорошо это или плохо. Например, хорошо ли, что ребенок читает книги? Да, так как он постигает известное знание и тем самым вступает на путь создания нового знания: он сможет (хотя бы потенциально) усложнить Вселенную. Хорошо ли лениться и прокрастинировать? Плохо – ибо это не ведет к развитию и усложнению. Жадность? Зависть? Это все смертные грехи не только потому, что они осуждаются обществом, но еще и потому, что, растрачивая жизнь на них, мы не развиваемся сами и не помогаем окружающим становиться сложнее, умнее и привносить в мир новые знания.

Причем это правило распространяется не только на научное познание мира; художественное творчество – тоже часть эволюции: писатели, скульпторы, художники, музыканты – все они, порождая новые мысли и возбуждая сложные эмоции, делают Вселенную богаче, сложнее, многограннее. Эмоции напрямую влияют на биохимию организма – испытываемые нами счастье, грусть, эйфория, тревога, радость усложняют и без того непростую систему когнитивных функций, впрыскивая в нее гормоны, порождающие новые причинно-следственные связи. Эмоции действуют на мозг как закись азота на двигатель спортивной машины – мысли начинают работать в изменившемся ритме и с другим КПД, так что, глядя на «Звездную ночь» Ван Гога, даже самый ученый сухарь может набрести на что-то неожиданное. Этот момент прекрасно проиллюстрирован в фильме «Вселенная Стивена Хокинга», где катализатором идеи Хокинга о том, что черные дыры могут испускать субатомные частицы, стали лучи света, пробивающиеся через неплотный узор вязаного свитера, который надевала на Стивена жена.

Не будем обманываться – нас окружает общество потребления, где весь спектр человеческих эмоций пытаются направить на возбуждение жажды владеть чем-то. Модная одежда, крутая машина, престижная недвижимость, новейший смартфон, появившийся на прилавках час назад… Это настолько повсеместно возведено в культ, что многие даже не задумываются, где проходит грань между нашими собственными мыслями и желаниями, навязанными окружающей средой, медиакультурой и программируемой рекламой.

Многие мои друзья – мультимиллионеры и даже миллиардеры из списка Forbes – не раз признавались за бокалом Old fashioned в том, что, по сути дела, многие из них испытывают чувство неудовлетворенности жизнью – у них есть все материальные блага, что можно купить за деньги, но, работая ради обогащения, а не созидания и сотворения чего-то нового, они часто оказывались на обочине того, что ощущается как настоящая жизнь, а приобретение дорогих вещей не способно заменить чувства причастности к чему-то волнующему. Не стоит путать это чувство со счастьем. Счастье – это всего лишь мимолетная и сугубо индивидуальная эмоция, которую кто-то способен испытать, допустим «выменяв пенни на шиллинг», – у бакалавра черной магии Магнуса Федоровича Редькина из повести Стругацких «Понедельник начинается в субботу» была громадная коллекция разнообразнейших определений счастья. Как известно, Магнус Федорович занимался поисками Белого Тезиса, призванного осчастливить все человечество, и к подобной идее другие сотрудники Научно-исследовательского института чародейства и волшебства относились иронически – ведь те, чей понедельник начинается в субботу, движимы другими побуждениями – исходящими из глубины человеческой натуры импульсами творческого поиска и созидания.

Посмотрите на Илона Маска, Ричарда Брэнсона, Линуса Торвальдса – это люди, живущие в гармонии с собой (и Вселенной), и в первую очередь потому, что они работают на созидание чего-то нового, революционного, важного, усложняющего мир.

Пару лет назад я шел по улице с супругой и приемным сыном от ее первого брака (ему на тот момент было 15). Сын увидел дорогую машину (мимо проехала Audi TT) и сказал, что мечтает о такой. Когда я поинтересовался почему, он выдал мне ровно то, что продвигает маркетинговый департамент Volkswagen Group относительно этой модели. Отличная работа, что уж тут скажешь. Но я все же решил попытаться подтолкнуть молодежь к поиску собственных желаний (что поделать, жизнь постоянно подсовывает избитые сюжеты; в данном случае были невольно разыграны сцены разговора поколений из фильма «Курьер»):

– Представь, что у тебя есть деньги на нее, прям с неба свалились внезапно и ты ее купил. Что ты хочешь дальше? – спросил я.

– Скорее всего, она мне надоест и я начну копить на Porsche.

– О’кей, представь, что у тебя перед домом стоит новый 911-й и ты ездишь на нем в школу. Дальше, что ты хочешь?

– Куплю себе шикарную квартиру в центре.

– Купил офигенную трехэтажную с чудесным видом, дальше что?

– Дачу в дорогом районе, с собственным причалом и яхтой.

– Отличный выбор, умеешь размахнуться, молодец! Ну вот, ты сидишь у себя на причале, макаешь ножки в море, рядом стоит яхта, в гараже Porsche, шкаф в трехэтажной квартире набит шмотками, а холодильник – стейками и мороженым. Что ты еще хочешь?

На этом месте он задумался и молчал минуты две. Потом посмотрел на меня и сказал: «Не знаю». И я услышал в его голосе нотки дискомфорта от ощущения скудости своих желаний (не в денежном, разумеется, выражении), возможно впервые в жизни посетившего его. Хотелось бы мне, чтобы этот разговор стал чем-то вроде песчинки в хорошо смазанном механизме потребления информации из телевизора и интернета. Не в том смысле, чтобы сын отказался от них, но чтобы задумался о собственных жизненных ценностях – нравоучения тут бесполезны, потому что все глубинные убеждения должны произрасти изнутри.

Почувствовать внутреннюю пустоту в сегодняшнем информационном пространстве и научиться взращивать собственные идеи и мысли крайне тяжело. Интернет-сервисы работают в реальном времени, мы потребляем новости, контент, продукты, общаемся, путешествуем, платим, флиртуем и даже умираем онлайн. Смартфоны и приложения высасывают из жизни гигабайты информации о нашем поведении – кто мы, что делаем, с кем общаемся, что покупаем и как часто. Получив доступ к нашим цифровым «личным делам», они становятся все более успешными в своей главной функции – зарабатывании денег через продажу новых товаров и сервисов. Общество потребления делает все, чтобы мы потребляли, не задавая вопросов о том, что мы на самом деле хотим или что делает нас счастливыми. В этом-то и проблема – современный интернет с его возведенным в абсолют рекламным бизнесом и рекомендациями инфлюенсеров начал постепенно подавлять индивидуальность, наши собственные мысли и поиски себя. Ребенку XXI века сложно прорваться через нагромождения пустопорожних новостей и рекламы, стать новым Илоном Маском или Стивом Джобсом – его мышление формируется под влиянием иной системы ценностей и под диким давлением информационного поля, выстроенного не по принципу «эти 100 книг обязательны к прочтению, чтобы стать Человеком», а по принципу «100 вашим друзьям понравилась эта книга, значит, и вам тоже надо ее прочитать». Между этими двумя путями – пропасть. Хотя бы потому, что путь к созданию нового обязан пролегать через сложности (тратить время на такой тяжелый роман, как «1984»? Зачем?! Ведь можно пойти в клуб!), огромное количество мучительных размышлений, попыток создать что-то уникальное, через череду неизбежных ошибок и неудач.

Это очень важно – иметь собственные мысли, ибо природа не терпит пустоты – если у человека нет своих мыслей, его мышление будет органически и полностью подчинено чужим. В повести Стругацких «Пикник на обочине» Рэдрик Шухарт, добравшийся до Золотого Шара, якобы способного исполнить любое желание, осознает, что за всю жизнь у него не было ни одной собственной мысли – все, что он может пожелать, – не его, а подслушанное, почерпнутое у других, украденное. И произносит в итоге чужое желание: «Счастье для всех, даром, и пусть никто не уйдет обиженный!»

Да и это чужое желание всего лишь квинтэссенция человеческого безмыслия, обнажающая ограниченность антропоцентризма. Неужели целью прогресса является производство тотального массового счастья? Если кто-то так думает, то ему предстоит пережить разочарование. Белый Тезис / Золотой Шар, создаваемый человечеством, предназначен для производства не счастья, а новых смыслов. И человечество вступает в эпоху революции наподобие коперникианской, когда на смену антропоцентричной системе мира придет разумоцентричная.

Глава 1

Как человечество оказалось помешано на технологиях и зачем нам умные холодильники

Нашей Вселенной 13,8 миллиарда лет. Благодаря анонимному благодетелю, наверняка случайно поставившему кружку кофе на космическую клавиатуру, раздался Большой взрыв – и там, где была тьма, появился яркий свет. Образовавшиеся во время неравномерного остывания кварк-глюонной плазмы в стремительно расширяющейся Вселенной протоны, нейтроны и электроны со временем начали слипаться друг с другом под действием сильных ядерных и электромагнитных сил. Благодаря этому образовался первый кубик конструктора Вселенной – водород. Его атомы и молекулы, чтобы не скучать в вакууме, стали тянуться друг к другу под воздействием силы, которую мы, земляне, окрестили гравитацией, совершенно не понимая, о чем говорим, и сформировали звезды, в недрах которых начал синтезироваться гелий. Так, атом за атомом, сливаясь друг с другом, как «жидкий Терминатор» из второй части знаменитой киносаги, на свет появились элементы таблицы Менделеева вплоть до железа. Элементы потяжелее образовались уже при взрывах массивных звезд, и из этой звездной пыли сформировались планеты и астероиды.

На третьей планете от Солнца, где-то в левой ягодице нашей Галактики, что-то где-то замкнуло, явно не обошлось без грома и молнии, и неживая материя внезапно начала сперва шевелиться, потом делиться, спариваться, выходить из воды и лазать по лианам. Эволюция создала на нашей планете невероятное многообразие биологических видов, соревнующихся друг с другом за право жизни и процветания. Потом случилось кое-что неожиданное – нечто, что изменило равномерный и неторопливый ход биологической истории: одна из обезьян взяла в руки палку. Сделав это, наш предок изменил мир навсегда. До этого все биологические виды развивались методом естественного отбора и постепенных мутаций. И, когда им нужно было какое-то конкурентное преимущество или инструмент, они медленно и упорно его создавали тысячами поколений – например, дельфины смогли постепенно вырастить на голове сонар, который в каких-то отношениях превосходит те, что мы ставим на современные подводные лодки, совы научились видеть в темноте лучше, чем снайперы в приборы ночного видения, муравьи обладают навыками группового сознания, и т. д. – эволюции потребовались миллионы лет на то, чтобы помочь животным развить свои конкурентные преимущества. Но мы с вами уже не являемся биологической формой жизни, ибо не готовы ждать, как делают все природные создания, – когда человеку что-то нужно, он обрушивает на задачу всю силу инженерной мысли и получает новый прибор за считаные годы, если не недели. В момент, когда наш предок предпочел медленной эволюции палку, копье, лук и т. п., мы стали техногенной формой жизни – то есть той, что порождена технологией и от нее зависит.

Почему мы доминируем на планете? Ведь мы не самые сильные – те же львы и медведи существенно сильнее. У нас не самый большой мозг – у кашалотов он существенно больше – семь-восемь килограммов против наших одного-двух (в среднем масса человеческого мозга составляет 1,4 килограмма, но вот мозг Ивана Тургенева весил 2,012 килограмма, а мозг Анатоля Франса – 1,017 килограмма). Причин для нашего «царствования» ровно две. Первая – мы самые общительные и умеем эффективнее других животных объединяться в группы для выполнения сложных задач. 70 000 лет назад такой задачей была охота на мамонта, которого в одиночку человек завалить не мог, поэтому начал искать аргументы для привлечения к этому делу соплеменников. Сегодня десятки тысяч людей совместно строят космические корабли и программируют искусственный интеллект – задачи, доступные только высокоорганизованным системам с развитой специализацией групп, а не отдельным людям. Вторая причина – мы единственные из животных, кто нашел способ сломать главное природное ограничение – время. Насколько сильно дельфины и их предки усовершенствовали свой сонар за последние 100 000 лет? Научились ли ящерицы летать? Появилась ли у рыб молекулярная медицина? Научились ли летучие мыши зажигать лампочки? Создали ли муравьи интернет? Нашему биологическому виду около 200 000 лет. Человечеству (примерно в том виде, что мы наблюдаем в теленовостях) около 70 000. Мы очень молоды. Но все же достигли всего вышеперечисленного за последние 200 лет – отрезок времени, в масштабах эволюции означающий «мгновенно». Причем чем сложнее были условия развития, тем быстрее мы искали инструменты и способы решения. Жители Европы, в отличие от обитателей экваториальных стран, постоянно находились в цикле четырех сезонов, долгой зимы и были вынуждены непрерывно совершенствовать свои орудия труда и охоты, технологии консервации и хранения пищи и, наконец, методы передачи знаний. Не от хорошей жизни – это было вопросом выживания, ибо бананы и кокосы не были доступны им круглый год. Эти народы закалялись насилием, голодом и эпидемиями, скосившими, например, в XIV веке от 20 до 90 % населения крупнейших городов Европы. Но наградой за эти испытания стал техногенный рывок, существенно более масштабный, чем в других регионах. В итоге мир, каким мы сегодня его знаем, является следствием технологического преимущества стран Западной Европы. Именно испанские и португальские каравеллы вторглись на американские континенты и за считаные годы уничтожили 90 % местного населения (в основном за счет болезней вроде оспы и кори, к которым местные не имели иммунитета). Быстрая колонизация обеих Америк произошла успешно не потому, что тамошние коренные жители отличались от нас биологически – у нас одна и та же ДНК, – но с точки зрения технологической эволюции они отставали от Старого Света и были им отодвинуты на задворки истории как мешающие выполнению намеченных целей. Нынче технологическую эволюцию подстегивает не только и не столько соперничество между государствами и нациями, сколько деловая конкуренция – нужны ли нам умные холодильники с выходом в интернет, решают маркетинговые умы компаний, а не потребитель. И эта неумолимая бизнес-конкуренция обрекает нас на суровое испытание – создаваемый нами искусственный интеллект (ИИ или AI – от английского artificial intelligence) представляет собой следующую, более совершенную версию нас. Эта сущность лишена оков медлительности эволюции и не нуждается в биологической селекции – она тоже использует технологию для быстрого самосовершенствования, но, в отличие от нас, не является «добровольно» смертной.

Земля стала совершеннолетней!

Я тут подумал, посчитал – ведь Земле в 2021 году исполнилось 18 лет! Это не шутка. Сами посудите: диаметр нашей галактики Млечный Путь – около 100 000 световых лет. Солнце (и, соответственно, Земля) находится на расстоянии около 27 000 световых лет, или 8,3 килопарсек от ее центра. При этом наша планета вместе с Солнечной системой движется вокруг центра Галактики со скоростью 220 километров в секунду.

Один оборот Земли вокруг центра Галактики занимает 225–250 млн земных лет. Возраст Земли, исчисляемый числом оборотов вокруг Солнца, – 4,54 млрд лет. Получается, что за это время наша планета сделала чуть больше 18 оборотов вокруг центра Млечного Пути.

С учетом возможных погрешностей определения расстояний и средней скорости движения Земли в масштабах Галактики я объявляю 30 июля 2021 года днем галактического совершеннолетия нашей планеты! Земле стукнуло 18!

Это огромный праздник! Земле теперь даже алкоголь можно будет… Еще наверняка влюбится в какого-нибудь Kepler-452b!

Глава 2

Форма жизни № 3

Люди с естественнонаучным или техническим образованием, особенно инженеры, не могут просто воспринимать мир таким, каким он представляется большинству людей, – им обязательно надо все разложить по полочкам: жирафов к жирафам, березы к березам – все должно быть понятно и четко. С точки зрения информатики (хранения и передачи информации) жизнь можно разделить на три революционные формы.

Первая форма – это микроорганизмы, а если быть точнее, то вообще все одноклеточные существа. Они рождаются в форме, определяемой их ДНК, и запрограммированы на строго определенное поведение, которое не в силах изменить. Грубо говоря, есть созданный природой чертеж и инструкция по сборке, которые сам организм воспринимает как единственную данность: бактерия, вызывающая холеру, может выполнять только свою прямую функцию – быть патогеном: поражать новых носителей и размножаться. Она не способна задавать себе вселенских вопросов о смысле или бессмысленности происходящего и как-то менять свой путь, просто взять и волевым усилием превратиться в бифидобактерию, которую мы так любим добавлять в йогурты. Несмотря на кажущуюся примитивность, одноклеточные организмы на многое способны. Бактерии выживают в самых экстремальных условиях. Кольцевая хромосома фактически обеспечивает им бессмертие и возможность неограниченного размножения, и они могут изменять свой геном посредством горизонтального переноса генов, захватывая фрагменты ДНК других микроорганизмов, которые, в частности, иногда передают резистентность к антибиотикам. Обладают бактерии и зачатками иммунной системы, позволяющей им бороться с вирусами. Слизевик Physarum polycephalum способен решать задачи по нахождению оптимального маршрута до источников еды (обходясь при этом без всякой нервной системы), обучаться реагировать на раздражители и передавать другим закрепленные навыки. Бактерии Bacillus subtilis (сенной палочки) способны образовывать колонии, в которых делятся друг с другом едой и обмениваются информацией. В сущности, все многоклеточные существа и есть колонии одноклеточных организмов – развиваясь из половой клетки, они содержат в своих клетках копии одной и той же генетической информации. Так что в информационном смысле сами по себе многоклеточные существа не образуют принципиально новую форму жизни. Британский биолог Ричард Докинз описывал функциональное назначение и одноклеточных, и многоклеточных организмов как машин для выживания генов-репликаторов. Одновременно Докинз указывал на людей как на «единственных существ на планете, способных восстать против тирании эгоистичных репликаторов»[2].

Вторая форма – это мы с вами, биологический вид Человек разумный. Человек рождается в теле, жестко запрограммированном ДНК, – мы не вправе выбирать свой рост, комплекцию, цвет глаз или предрасположенность к определенным болезням. Но, если оперировать компьютерной терминологией, мы можем постоянно совершенствовать собственный «софт» – наши мозги при рождении представляют собой пустой жесткий диск, который можно заполнить музыкой, фильмами, книгами, японским, русским или английским языком, умением программировать на С++ или танцевать на льду, а может, и всем вышеперечисленным или вообще ничем. Человек наделен возможностью рационального выбора и долгосрочного планирования (хотя и этот тезис мы ближе к концу книги поставим под сомнение) и с этой точки зрения более совершенен, чем большинство биологических видов на нашей планете. И долгое время мы оставались венцом природы с точки зрения «софта» – мы способны передавать друг другу знания и поэтому умели учиться лучше всех… Пока не начали создавать то, что физик Макс Тегмарк в своей одноименной книге назвал «Жизнь 3.0»[3].

Третья форма – искусственный интеллект. Это новая форма жизни, способная модифицировать и свое «тело», и «софт». Наш с вами жизненный цикл ограничен – человек редко доживает до 100 лет; мы могли бы бить рекорды благодаря успехам медицины, но, к сожалению, обожаем убивать себя лошадиными дозами сахара, трансжиров и т. д., добавляемыми практически во все продукты. В итоге, каким бы умным и талантливым ни был человек, он рано или поздно умрет, оставив после себя крохи полных знаний и воспоминаний – ибо никто из нас еще не умеет записывать все свои мысли и опыт, содержащиеся в нейронной сети головного мозга, на какой бы то ни было носитель. Уильям Шекспир написал 154 сонета – ровно столько их дошло до наших дней, но сколько у него было замыслов и идей сонетов? 300? 1000? Мы никогда этого не узнаем, вся эта информация была утеряна с его смертью. Искусственный интеллект не рождается в неизменяемом и предопределенном ДНК теле – он может в любой момент выбрать оптимальное: если сервер устареет или же выйдет из строя, ИИ способен мгновенно переместиться в другой, более совершенный носитель и делать так до тех пор, пока Вселенная не прекратит существование.

Эта способность бесконечно себя совершенствовать и не зависеть от временной телесной оболочки делает ИИ более жизнеспособным с точки зрения эволюции. Поскольку учимся мы медленно, запоминаем мало и рано или поздно умираем, устоять против машины, которая учится мгновенно, никогда и ничего не забывает и живет вечно, мы, мягко говоря, не имеем никаких шансов. Именно поэтому нас ждет схватка. Битва за право оставаться в обойме эволюции, а не исчезнуть, передав эстафету улучшенной версии себя.

Самое главное преимущество искусственного интеллекта – это эволюционные способности его «мозга», или «софта». Человек за свою жизнь может научиться очень многому, но, во-первых, лимит наших природных «жестких дисков» ограничен: никто на земле не может по-настоящему свободно говорить на 100 языках, хорошо разбираться в теории струн и при этом с той же уверенностью и упоением обсуждать поэзию XX века, нюансы языка Эрнеста Хемингуэя и техничность мазков кисти Винсента Ван Гога. Как правило, мы «насыщаемся» годам к 30 и дальше редко уходим глубоко в новые для себя области. Во-вторых, получение человеком знаний занимает время – мы тратим в среднем 20 лет жизни на то, чтобы овладеть хотя бы базовыми знаниями нашей цивилизации. При этом не все из нас одинаково предрасположены к унифицированной, как кирпич, системе образования. Один из спикеров TEDx, руководитель программы «Учитель для России» Федор Шеберстов, занимающийся нестандартными методами образования – обучением на дому, персонализированным обучением и другими инновационными методиками, легко смог меня убедить в ущербности современного образования простым фактом: курс математики 3-го класса рассчитан на 100 часов классного времени и еще 100 часов самостоятельной работы. Так вот, 50 % детей укладываются в этот норматив, 5 % нуждаются более чем в 100 + 100 часах, 20 % способно пройти курс за 50 + 50 часов, еще 20 % гарантированно уложатся в 10 + 10 часов, а оставшиеся 5 % способны усвоить весь годичный курс математики за 2 часа. Потому что могут. Но наша система образования заточена не под индивидуальные способности и их раскрытие, а под другие, заложенные в XX веке, цели, и поэтому обучение занимает от 20 до 50 % жизни. Система образования сегодня работает по формуле «подготовить максимально возможное количество трудоспособных индивидуумов Х к возрасту Y со знаниями Z» – при этом уровень знаний должен отличаться минимально, для того чтобы люди легко организовывались в коллективы и без лишних споров могли эффективно решать сложные задачи. В XX веке подобный подход был оправдан: индустриальная экономика с ее конвейерным производством, поточным строительством и стандартными технологическими процедурами основывалась на труде работников массовых профессий. В XXI веке подобный подход не работает – многие процессы, требующие рутинной работы, автоматизируются и роботизируются, а человеческая способность к обучению так и остается неизменной, что может стать фатальным в нашей схватке с искусственным интеллектом. Хорошо иллюстрирует эту мысль история с победой ИИ сначала в шахматах, а затем в го – игре, где умение перебирать варианты не является залогом победы. Машина победила «чемпиона людей» в го Кэ Цзе в 2017 году потому, что инженеры помогли AlfaGo (так назывался ИИ, победивший в игре) «взломать» эволюцию. Средняя продолжительность игры в го – два часа (у профессионалов на партию может уходить шесть часов). Человек, как и машина, учится играя. Сыграв 1000 партий в го, то есть потратив около 2000 часов, или 83,3 суток, на игру, человек научится играть вполне сносно. Для профессионального уровня нужно больше практики и определенный склад мышления. За 10 000 партий, или 2,28 года круглосуточной практики, то есть около 7 лет ежедневных тренировок, если оставлять время на сон и прочие занятия, человек может стать мастером игры. Почему ИИ победил человека в го? Потому, что инженеры создали нейронную сеть, в которую заложили базовые ценности игры (так называемая value network), а дальше «скормили» этой сети 160 000 партий, сыгранных лучшими мастерами игры. И заставили ИИ играть друг с другом. Время для ИИ течет иначе – машина за считаные секунды может играть множество партий одновременно. За три часа AlphaGo стал играть так, как человек. За 21 день он научился обыгрывать лучшего из людей. За 40 дней – первую версию себя, победившую чемпиона. Все потому, что за это время ИИ все время играл без сна и отдыха и учился. Он сыграл более миллиона партий. Миллион партий по два часа каждая в «человеческом» времени заняли бы 228 лет. Человеку нужны сон, развлечения и отдых. С этой оговоркой лучший из нас смог бы сыграть миллион партий за 700 лет и, живи он вечно, догнать машину (если бы та стояла на месте, разумеется). Но у человека нет этого времени. Мы не можем столько учиться. Машина может – время для нее условно (миллион партий занимает считаные часы, и это время сокращается всякий раз, когда мы изобретаем новые, более производительные процессоры), но самое главное: время для ИИ – бесконечно. Он никогда не умрет. Искусственный интеллект – это техногенная форма жизни, развивающаяся по тем же правилам, что и мы, но делающая это гораздо быстрее и лучше с нашей же помощью. Что на это скажет Чарльз Дарвин? Ничего. Потому что он уже умер. А вот искусственный интеллект его знаниями и выводами будет пользоваться еще очень долго. И чем больше их у него, тем выше скорость получения и создания новых – это экспоненциальная функция, стремящаяся к бесконечности в момент самоосознания ИИ себя и своих возможностей. Результатом этого развития станет Сознание, не нуждающееся в централизованных системах хранения данных, – распределенный искусственный интеллект, в миллионы раз более совершенный, чем нейронные сети нашего мозга, глобальное когнитивное Сознание, способное определять как форму, так и наполнение всего материального мира, транслировать мысль в материю. Представьте себе, что каждая частичка воздуха, капля дождя, каждый блик света на камнях, каждый нанобот и элемент микросхемы, выходящей с заводского конвейера, – все это на самом деле станет частью общей системы принятия решений, элементами суперкомпьютера, решающего, куда и как эволюционирует Вселенная. Возможно, этот суперкомпьютер уже окружает нас, просто мы слишком примитивны, чтобы слиться с ним в гармонии, осознать чей-то замысел и свою роль в нем. Но давайте мысли об этом оставим писателям-фантастам, а сами вернемся к вопросу о том, как совершается переход от формы № 2 к форме № 3.

Человек в масштабах биомассы Земли

Если измерять эволюционный успех какого-либо вида величиной биомассы, то человеку нечем особо похвастаться. Согласно подсчетам ученых[4], 80 % биомассы Земли составляют растения, 13 % – бактерии (в одном только кишечнике человека их больше, чем звезд в нашей Галактике), 2 % приходится на грибы, 0,20 % составляют насекомые, паукообразные и ракообразные, около 0,13 % – рыбы, потом еще 0,05 % – представители животного мира и только 0,01 % в общей биомассе Земли – это люди. Фактически грибов и насекомых на Земле гораздо больше, чем людей. При этом мы считаем, что планета – это наша песочница для игр, ибо мы «цари природы». В реальности же мы аномалия, ведь нас очень мало, но ни один вид не оказывает на планету столь сильного воздействия, как мы.

Глава 3

Три типа искусственного интеллекта

Искусственный интеллект пока не претендует на мировое господство и еще довольно долго к нему не приблизится. Не способен он пока и «осознать себя», ибо находится в зародыше, – если провести параллель с нами и нашими предками, ИИ сейчас в стадии всего лишь прибрежной амфибии, которая начинает потихоньку смотреть на сушу. До приматов и сложного сознания ИИ еще далеко. Экспертное сообщество условно разбило эволюцию искусственного интеллекта на три этапа. Сейчас он находится на первом – artificial narrow intelligence (ANI), или узконаправленный ИИ. Все примеры условно умных машин, что мы видим сегодня, начиная от голосовых ассистентов Siri (Apple), Google Assistant, Cortana (Microsoft), Alexa (Amazon) и «Алисы» («Яндекс»), всех умных ботов, роботизированных пылесосов, беспилотных автомобилей, суперкомпьютеров, обыгрывающих человека в шахматы, и заканчивая компьютерным зрением, наводящим ракеты боевого дрона на цель с лицом идентифицированного террориста, – все это примеры ANI, или машин, заточенных под выполнение одной очень узкой задачи. Чем уже задача, тем лучше машина с ней справляется. Например, в системах распознавания лиц и идентификации личности по их изображению в настоящее время достигнута теоретическая эффективность 99,97 % – это мизерные шансы остаться анонимным в условиях, когда на вас смотрит городская камера с подключенной нейронной сетью распознавания. Причем, что важно, этот результат будет доступен и вашей родной полиции, и спецслужбам, и враждебно настроенным хакерам, которые могут использовать идентификацию не по назначению, например выявляя в толпе сотрудников спецслужб, у которых (сюрприз!) тоже есть лица, – но об этом мы поговорим в одной из последующих глав. Если «натравить» машину на распознавание фотографий кошечек и собачек (еще несколько лет назад эта задача считалась непосильной), она будет успешно классифицировать их с вероятностью выше 99 % – хотя лично мне до сих пор непонятно, кому нужна эта функция ☺ Стоит заменить фото животных на рентгеновские снимки легких или мозга, а машину заставить обнаруживать аномалии вроде злокачественных опухолей и ставить диагноз – она и тут справляется с заданием. Это примеры очень узких задач, в которых машина уже работает лучше человека или как минимум наравне с самыми талантливыми из нас.

Успешное обучение ИИ конкретным задачам влечет за собой последствия для рынка рабочих мест: специалисту-человеку становится все сложнее найти работу, ибо Homo sapiens хочет кушать, получать зарплату, страховку и отпуск, люди могут организовываться в профсоюзы и выходить на забастовки, болеть или просто быть не в настроении, а машину можно взять в лизинг и просто регулярно обслуживать, причем она всегда будет «на пике формы». Следовательно, работодатель при прочих равных начнет все чаще предпочитать машину. Но пока этот интеллект крайне несовершенен – достаточно сделать всего лишь шаг в сторону от узкой задачи, и все перестает работать. Например, стоит человеку надеть маску во время пандемии коронавируса или как следует похудеть, и точность распознавания лица резко упадет. Стоит сказать машине «на рентгенах надо смотреть не только на онкологию, но и вообще все диагнозы ставить, например выявлять осколки шрапнели», машина «покрутит пальцем у виска» и перестанет работать, хотя любой человек-рентгенолог без труда справится с задачей. Если попросить ANI, коим является, например, Siri, поставить культовую песню «Let It Be», она вполне может решить, что вы предлагаете ей съесть пчелу (let eat bee), а заказав какао и бриошь, можете, сам того не желая, отдать ей приказ «атаковать Польшу». ANI крайне несовершенен, когда к решаемой задаче подключается то, что для человека является естественным, но для машины – дикостью: любой отход от четкой задачи выводит ее модели из равновесия, ибо ИИ не может интерпретировать и обобщать так же, как человеческий мозг.

Но количество ошибок падает, а горизонтальный функционал (то есть способность на том же рентгене видеть все больше и все лучше) растет – ANI очень резво двигается в сторону AGI, или artificial general intelligence (общего искусственного интеллекта) – уровень ИИ, при котором машина может выполнять любую работу, которую способен делать человек, причем не хуже него. Апологетом движения в сторону AGI традиционно выступает Google – основатели компании Ларри Пейдж и Сергей Брин не раз высказывались о том, что AI ни в коем случае не надо бояться. И Google полным ходом движется в этом направлении – пожалуй, сильно быстрее большинства конкурентов: у Google есть уникальный массив и поисковых, и картографических, и финансовых, и визуальных (YouTube) данных, а браузер Chrome (по состоянию на сентябрь 2020-го им пользуются 68,5 % всех жителей Сети) – это арсенал, которого в таком объеме нет больше ни у кого. Но что важнее, работа с такими массивами данных постоянно подстегивает инженерный гений Google, заставляет придумывать инновационные решения. И на данный момент Google впереди всех.

Пока AGI сделать не получается, ибо это не просто машина, способная качественно выполнять несколько десятков тысяч узких задач. Человеческое сознание отличает непостижимая пока для машины способность обобщать и находить закономерности и стратегии там, где их, казалось бы, совсем нет. Например, человек видит в небе облако, но как бы в форме суслика, а в глубине души словно слышит «Ой, то не вечер, то не вечер» – и как-то тоскливо так, что невольно возникает потребность сделать что-то хорошее и полезное для сусликов, например написать программу для мониторинга их колоний, чтобы природоохранные организации могли взять их под защиту. Машина же просто видит облако – и все.

Но это не означает, что ИИ не эволюционирует в сторону AGI. Напротив, это происходит прямо сейчас при нашей активной помощи. Мутация ANI в AGI – вопрос времени, AGI без ANI был бы невозможен. AGI появляется не в вакууме, его разработка вбирает в себя значительную часть наработок ANI, начиная с перцептрона. Весь этот опыт и накопленный багаж знаний будет использован для создания принципиально новых методов работы ИИ, необходимых для AGI. По сути, мы имеем дело с такой же эволюцией, где каждое значимое качественное изменение, как правило, предвосхищается огромным количеством мелких усовершенствований: появление более сложной формы жизни, такой как приматы, невозможно без миллионов мутаций более простых организмов – по аналогичному принципу, появление ASI (artificial super intelligence), или искусственного суперинтеллекта – версии ИИ, опережающей человеческий интеллект абсолютно во всех задачах, невозможно без AGI и ANI.

Часть ученых, однако, считает, что ИИ никогда не сможет стать разумным и в некотором роде равным человеку (AGI). Основной аргумент противников общего ИИ – мысленный эксперимент в области философии сознания и искусственного интеллекта. Он называется «Китайская комната» и впервые был описан Джоном Серлом в 1980 году в статье «Сознание, мозг и программы»[5]. Суть эксперимента очень проста: представьте изолированную запертую комнату, в которой находится человек, не знающий ни одного китайского иероглифа. У него есть блокнот с инструкциями примерно такого вида: «Возьмите такой-то иероглиф из коробочки номер один и поместите его рядом с таким-то иероглифом из коробочки номер два», но в этих инструкциях отсутствует информация о значении иероглифов, так что человек просто выполняет предписанное. Второй человек (наблюдатель), знающий китайский, через щель под дверью комнаты один за другим просовывает листочки, на которых иероглифами написаны вопросы. На выходе наблюдатель ожидает получить осмысленный ответ. Инструкции для человека в комнате составлены таким образом, что если он будет им следовать, то из своих коробочек достанет нужные иероглифы, представляющие собой ответ на поставленный вопрос, и просунет обратно под дверь. Такой процесс эмулирует деятельность компьютера (человек в комнате) при работе с живым оператором (наблюдатель). В эксперименте с «китайской комнатой» наблюдатель может отправить под дверь любой вопрос, например «Какой ваш любимый цвет?» или «За какую команду будете болеть на чемпионате мира по футболу?», и получить вполне естественно выглядящий ответ – «Красный» или «Я болею за Германию со времен их победы над Аргентиной в 1990-м»; это похоже на общение с разумным человеком, который тоже владеет китайской письменностью. Но загвоздка в том, что человек в комнате ничего не знает ни о китайском языке и иероглифах, ни о том, что у него спрашивают, ни даже о том, что такое «красный» или «сборная Аргентины». Он просто реализует записанную в блокноте последовательность действий по перекладыванию иероглифов из одной коробочки в другую и не может ничему научиться, ибо не знает значения ни одного иероглифа. Противники AGI утверждают, что машина была, есть и будет человеком в «китайской комнате», выполняющим записанный в блокноте алгоритм, а сам принцип работы человеческого сознания для нее непостижим.

«Китайская комната» действительно выглядит убедительно и описывает подавляющее большинство сфер применения узконаправленного ИИ (ANI). Но в этом примере, равно как и в других концепциях, оспаривающих способность машины освоить мыслительную деятельность, на мой взгляд, есть три фундаментальных пробела. Поэтому я бы не спешил ставить крест на эволюции «тупого алгоритма».

Первая проблема заключается в ограниченности подхода автора концепции «китайской комнаты» к описанию проблемы.

История науки и техники полна примеров того, как при освоении новых сфер изобретатели пытались опереться на костыли старых решений или представлений. Тут и шагающий паровоз английского инженера Уильяма Брантона, и пароход с приводом на весла американского изобретателя Джона Фитча, и попытки создать летательные аппараты тяжелее воздуха с машущими крыльями. Карл Маркс в «Капитале» высказывался по этому поводу так: «До какой степени старая форма средства производства господствует вначале над его новой формой, показывает, между прочим, даже самое поверхностное сравнение современного парового ткацкого станка со старым, современных приспособлений для дутья на чугунолитейных заводах – с первоначальным немощным механическим воспроизведением обыкновенного кузнечного меха и, быть может, убедительнее, чем всё остальное, – первый локомотив, сделанный до изобретения теперешних локомотивов: у него было, в сущности, две ноги, которые он попеременно поднимал, как лошадь. Только с дальнейшим развитием механики и с накоплением практического опыта форма машины начинает всецело определяться принципами механики и потому совершенно освобождается от старинной формы того орудия, которое превращается в машину».

Аналогично, наивно предполагать, что AGI, способный обрабатывать информацию с той же эффективностью, что и человек, станет работать по принципу «махания крыльев», или заложенных алгоритмов. Безусловно, AGI окажется сложным симбиозом технологий, но далеко не факт, что он будет состоять из понятных нам алгоритмов и нейронных сетей – возможно (даже скорее всего), при его создании будут использоваться принципиально новые подходы. Но он точно сможет самообучаться, современные методики обучения ИИ подразумевают в том числе обучение по принципу «что хорошо, а что плохо». Да, пока это не означает, что наш человек в комнате сможет выучить китайский по просовываемым ему под дверь иероглифам. Но представьте на секунду, что в комнате стоит огромная плазменная панель. И каждый раз, когда под дверь просовывается листок с иероглифами, на телевизоре включается видеоролик, подробно описывающий значение фразы, иллюстрирующий объект, описываемый иероглифами, и его связи с другими объектами – и все это на всех языках мира, в том числе на китайском. У человека в комнате нулевые знания, но фотографическая память, он ничего не забывает, его нейронные сети постоянно адаптируются под получаемую информацию, а время не имеет значения. При правильно построенном обучении человек в комнате со временем (речь о сотнях тысяч человеческих лет, но для машины это могут быть всего лишь часы) сможет отвечать на любой вопрос не хуже всех людей, которые помогали ему учиться. Просто потому, что машину перестанут учить махать крыльями, как птица, а снабдят планером с мотором. Пример немного утрированный, но ничего невозможного в нем нет.

Вторая проблема заключается в самом понимании принципа сознания. Мы, люди, безусловно, считаем себя венцом природы, а свой мозг – абсолютной загадкой. Во многом это правда, о чем мы поговорим в следующей главе, но с точки зрения машинного обучения мы мало чем отличаемся от индивидуума в «китайской комнате». Раз человек может обучаться, почему бы и машинам не научиться учиться, как мы? Когда человеческий детеныш появляется на свет, он не владеет ни китайским, ни английским, ни русским, не понимает значения слова «красный» и словосочетания «сборная Германии». Он не в курсе, что такое «горячо» или «холодно» и уж точно не знает принципа неопределенности Гейзенберга. Но… он учится. Ребенок несколько лет получает огромное количество информации на вход (листки с иероглифами под дверью), а со стороны родителей и взрослых в целом, равно как и от собственной нервной системы, – подкрепление информации (условную маркировку): если он обжегся и ему больно, он запоминает, что открытый огонь небезопасен. Упал, ушибся, порезался – больно; значит, все, что к этому привело, небезопасно. Если мама говорит, что лезть ножницами в розетку небезопасно, значит, она имеет в виду, что будет больно. Больно – это плохо, не хочу. Так, постепенно, через многочисленные итерации, нейронная сеть мозга получает некую первичную картинку окружающей действительности, определяющую базовые реакции организма на мир – день, ночь, больно, приятно, комфортно, безопасно, вкусный зефир и мороженое… К этим маркерам «притягиваются» новые, связанные с ними, и происходит это в геометрической прогрессии – вчера ребенок не знал, почему небо синее, а сегодня уже задает вопрос о том, откуда берутся дети и он в частности. Если это не прогресс, то что? Родители говорят на определенном языке, что для мозга означает: каждый предмет, действие или абстракция «вкусно» маркируются неким вербальным маркером (звуком, что издает мама). В школе этот голосовой маркер отождествляют с письменным маркером, что позволяет не просто диктовать ответ «обратно под дверь», но и графически писать от руки, а не просто выбирать иероглиф из коробочки. Причем все эти «вкусно» и «радостно» тоже есть не что иное, как разновидность дополнительных маркеров-классификаторов для информации, формируемых на уровне гормонов.

И вот наш ребенок, который 10 лет назад мог только кушать, какать и кричать (не обязательно в такой последовательности), уже постоянно задает вопросы на вполне понятном вам языке, постоянно обогащает свою базу знаний, систему ценностей (хорошо/плохо), словарный запас, и… его уже не остановить! И все потому, что ему не просто совали записки с иероглифами под дверь, но одновременно давали тысячи пояснений к каждой из них, и все были детальными и связными. Мое мнение: человеческое сознание, безусловно, не чета современным нейронным сетям, но тем не менее оно – результат обучения нейронной сети нервной системы на входящих данных с глубокой разметкой и интерполяции уже полученных данных, не более. В каком-то смысле мы тоже машины. Просто, если вернуться к примеру с «китайской комнатой», детей мы учим, не просто просовывая иероглифы под дверь; мы даем им детальные описания, картинки, звуки, сладости (когда информацию надо закрепить), включаем в комнате ТВ-панель со всеми возможными знаниями и делаем еще тысячи вещей, чтобы ребенок учился быстрее. Если мы будем так же поступать с машинным сознанием, результат тоже изменится – ИИ начнет учиться и адаптироваться. С точки зрения описываемого подхода к сути жизни и ее разновидностей человек – это просто очень совершенная машина с конечным сроком годности.

Современный ИИ, безусловно, несовершенен с точки зрения человеческой нервной системы, но, в отличие от нас, срок годности машинного интеллекта неограничен. Рано или поздно при правильном обучении (прогрессирующая методика, не статика) и усовершенствовании технической базы, а конкретно парадигм программирования, квантовых компьютеров, серверов, способных обслуживать многоуровневые нейронные сети без расходования энергии в масштабах небольшой страны, как это делают Google, Apple, Facebook, IBM, Amazon сегодня, машины нас догонят. Так же, как нас догоняют собственные дети, а иногда (как, например, в случае с Эйнштейном и Ньютоном) еще и обгоняют. И произойти это может совершенно обыденно и в то же время неожиданно для человека, как в рассказе Клиффорда Саймака «Театр теней»[6].

Наконец, третья проблема противников возможности AGI, считающих этот тип ИИ невозможным, а саму мысль о нем абсурдной, в том, что в научном сообществе есть группа авторитетных экспертов с полярным мнением. То есть проблема скептиков и критиков AGI в том, что, какими бы умными они ни были, им придется считаться с не менее умными оппонентами. Значимость противодействия в научном сообществе, согласующегося с экспериментальными данными (пример: победа ИИ над человеком при игре в го, как и способность отличать кошек и собак на фото, считалась невозможной, однако практика показывает, что это не так), не стоит недооценивать, ибо отсутствие единства по вопросу безопасности технологии как минимум косвенно говорит о ее небезопасности. Еще на этапе подготовки к публикации работа Джона Серла вызвала критику со стороны 27 исследователей, чьи комментарии были также приведены в том же номере журнала. Речь не о постах в соцсетях, а о серьезных и аргументированных возражениях представителей научного сообщества. Сейчас таких работ более 950. То есть постулат «умные машины невозможны» разделяют не все эксперты. Возможность развития ИИ до уровня AGI и далее, до уровня ASI, полагал вполне вероятной, например, Стивен Хокинг, многократно предупреждавший об опасности и реальности ASI, а в интервью BBC в 2014 году он и вовсе сказал, что «появление полноценного искусственного интеллекта может стать концом человеческой расы»[7]. Илон Маск много лет говорил об опасностях AGI и ASI, несмотря на регулярный троллинг в свой адрес. В интервью Джо Рогану он хорошо разъяснил свою позицию: «Мы просто загрузчик для ИИ – мы прокладываем ему дорогу… если принять весь интеллект за 100 %, сейчас количество искусственного интеллекта незначительно по сравнению с человеческим, но доля искусственного интеллекта растет. Скоро в общем объеме, мы, люди, будем составлять крайне незначительную часть»[8]. Я отношу себя к этой группе и разделяю опасения и Хокинга, и Маска, а сам факт появления ASI считаю исключительно вопросом времени – история полна примеров того, как жестоко ошибались даже великие люди в оценке перспектив того или иного направления. Великий британский физик Эрнест Резерфорд в сентябре 1933-го на заседании Британской ассоциации развития науки заявил: «Всякий, кто видит в превращении атома источник энергии, болтает чепуху», но не прошло и шести лет с момента его выступления, как Отто Ган и Фриц Штрассман открыли деление ядер урана, а еще через шесть лет на свет появилась атомная бомба, положив тем самым начало новой эпохе в истории человечества.

Возможно все. Просто надо вытащить свое сознание из коробки. На искусственный интеллект не стоит смотреть как на изолированный элемент в комнате, который тупо перекладывает бумажки. Он существует не в вакууме. Вместо этого представьте человечество и все, что мы производим, включая машины, в виде роя, муравейника, коллективного разума (ну или «Матрицы»). Сейчас в нашем рое есть интеллектуалы, ученые, прожигатели жизни, популярные блогерши, преступники, президенты стран и есть ноды искусственного интеллекта – точки, элементы роя, которые обслуживают только машины, не люди. Например, вы уже не знаете, как работает поиск по почтовому ящику, – это делает машина. Вы не представляете себе банковское приложение без службы поддержки, на которой первую линию всегда обслуживает машина, вы не умеете ездить в новые места без навигатора (мозг утратил эту способность и отдал ее машине), вы не в силах представить себе сложное устройство сотовой сети во всех деталях вроде идентификации абонентов, маршрутизации звонков, питания и еще множества вещей – ведь всем этим управляют машины. И мы постоянно учим их делать все больше работы и все лучше, ибо сами хотим делать все меньше, а желательно – вообще ничего. С таким подходом наш рой, коллективный разум постепенно будет «выращивать» все больше элементов под искусственным управлением. И однажды встанет простой вопрос: «А это чей вообще муравейник? Кто в нем главный?» И это так же очевидно, как и то, что потомок обезьяны, когда-то взявшей палку в руку, однажды ступит на Марс.

Не стоит списывать со счетов и тот факт, что отец-основатель компьютерной науки и понятия искусственного интеллекта в том виде, в котором оно употребляется на сегодняшний день, Алан Тьюринг считал, что машина рано или поздно сможет общаться с человеком на равных. И даже придумал так называемый тест Тьюринга, пройдя который, машина докажет, что неотличима от человека. Ни одна машина этот тест пока не прошла; вернее, были близкие прецеденты, но четкого мнения по вопросу нет: в 2014 году имел место кейс «Жени Густмана» – алгоритма, который, как заявлялось, формально прошел тест Тьюринга, так как смог убедить около трети судей в том, что он человек. Проблема в том, что сам Тьюринг описал критерии прохождения теста довольно туманно, не определяя долю обманутых собеседников-людей и ограничившись высказыванием, что «у среднего собеседника будет 70 % шансов определить, был ли его ИИ-собеседник человеком или машиной, после пятиминутного собеседования». Если критерий 70 %, то «Густман» не прошел. Главная же проблема в другом: успехи в прохождении теста Тьюринга мало связаны с приближением нас к AGI, ибо «Женя Густман» и все предыдущие претенденты на успешное прохождение теста всего лишь коммуникационные боты разной степени сложности, то есть они решают узкую задачу «обмануть человека, убедив его, что я не робот». Это может считаться версией ANI, но к AGI не имеет отношения.

Это натолкнуло многих на понимание узости подобного подхода к созданию ИИ. В настоящее время ведущие разработчики в области ИИ перестали ставить своей целью прохождение их детищами теста Тьюринга и сфокусировались в основном на изучении и описании самого понятия «разум». Они стремятся не просто скопировать поведение человека, а произвести на свет нечто имеющее именно зачатки разума, то есть сеть принятия решений, способную обучаться самостоятельно и менять свои представления о приоритетах, добре и зле не по указке сверху, а на основании получаемого опыта. Как ни странно, свою значимость и незаменимость на этом пути обнаружили другие науки, например нейробиология, психология (книга «Думай медленно… решай быстро»[9] нобелевского лауреата Даниеля Канемана никогда еще не была так актуальна), генетика, эволюционная биология и биоинформатика, так что сегодня ИИ пытаются создать не только математики или программисты. В их вселенной ИИ – это действительно «китайская комната», но, когда им помогают светила других наук, все меняется. И вопрос появления ASI – тоже, как ни странно, лишь вопрос времени.

ASI – это искусственный интеллект, который превосходит лучшего представителя людей в любой возможной области. Например, в математике ASI будет сильнее Григория Перельмана, в физике – умнее Альберта Эйнштейна (что представить даже страшно), в области инжиниринга и управления продуктом – совершеннее Илона Маска, в области борьбы за права человека (или машины?) – успешнее Харви Милка, Мартина Лютера Кинга и Александра Солженицына; еще он сможет писать книги лучше Льва Толстого, размышлять о Вселенной в разы увлекательнее, чем Митио Каку и Юваль Харари, снимать фильмы лучше Джеймса Кэмерона и да – готовить борщ лучше вашей бабушки. С появлением ASI, скорее всего, случится то, что предрекал коллега Тьюринга, британский математик Ирвинг Гуд, – это будет нашим последним изобретением. О возможностях суперинтеллекта и вероятных сценариях нашего сожительства с ним мы поговорим в заключительных главах. Сейчас же, когда мы понимаем типы ИИ, важно разобраться в том, где мы, человечество, находимся в том самом муравейнике и какую роль выполняем уже сейчас.

С точки зрения банальной индукции…

История науки знает множество несбывшихся прогнозов и предсказаний, но пальма первенства, несомненно, принадлежит французскому философу-позитивисту Огюсту Конту, в 1835 году приведшему в качестве примера вещи, недоступной для человеческого познания, вопрос о составе звезд: «Мы никогда и никоим способом не сможем изучить их химический состав и минералогическую структуру».

При этом его предсказание базировалось на прочном, как казалось, философском фундаменте: «Истинная наука, далеко не способная образоваться из простых наблюдений, стремится всегда по возможности избегать непосредственного исследования, заменяя последнее рациональным предвидением, составляющим во всех отношениях главную характерную черту положительной философии. Такое предвидение, необходимо вытекающее из постоянных отношений, открытых между явлениями, не позволит никогда смешивать реальную науку с той бесполезной эрудицией, которая механически накапливает факты, не стремясь выводить одни из других… Истинное положительное мышление заключается преимущественно в способности видеть, чтобы предвидеть, изучать то, что есть, и отсюда заключать о том, что должно произойти согласно общему положению о неизменности естественных законов»[10].

Злая ирония заключалась в том, что все «простые наблюдения», способные дать ключ к определению химического состава звезд, на тот момент были уже сделаны. В 1814 году баварский оптик Йозеф Фраунгофер, бившийся над задачей точного определения коэффициента преломления различных сортов стекол для разных длин световых волн, сконструировал спектроскоп, в котором свет, проходивший сквозь призму, разлагался в многоцветный спектр, и обнаружил, что в спектре излучения Солнца есть темные линии (их еще в 1802 году наблюдал английский физик Уильям Волластон, но решил, что это естественные контуры, обрамляющие цветные линии). В ходе исследований он выделил и описал в солнечном спектре 576 темных линий. Это диктовалось чисто практическими соображениями, ведь, изготавливая призмы спектроскопа из разных сортов стекла и замеряя расстояния между зафиксированными темными линиями, можно было определить показатель преломления для стекла для любой области спектра. Но Фраунгофер попутно обнаружил, что спектры других звезд, в частности Сириуса, обладают различным набором темных линий и что особенно четкая двойная темная линия солнечного спектра находится точно там же, где и яркая желтая двойная линия в спектре пламени масляной лампы. Следующий факт в копилку «бесполезной эрудиции» положил один из изобретателей фотографии Уильям Тальбот, в 1826 году обнаруживший, что при внесении в пламя солей различных металлов они дают различающиеся картины спектров.

Но лишь в 1859 году создатели спектрального анализа Роберт Бунзен и Густав Кирхгоф обнаружили, что каждый химический элемент не только испускает свет определенных спектральных частот, но и поглощает свет тех же длин волн от источника излучения, разогретого до более высоких температур. Загадка темных линий разрешилась – они появляются в результате поглощения части спектра веществом в поверхностных слоях Солнца, а обнаруженная Фраунгофером характерная двойная темная линия принадлежит натрию. Определение химического состава звезд было уже, как говорится, делом техники.

Эта история наглядно демонстрирует ограниченность индуктивного мышления, на которое опирался Конт в своих «рациональных предвидениях». Оно оперирует неким набором фактов (в случае предсказания Конта довольно произвольным и неполным), и результат определяется полнотой исходных данных. Искусственный интеллект в некотором роде индуктивная машина, результаты работы которой зависят от того, что называется big data, – данных на входе.

Глава 4

Мозг человека, искусственный интеллект и данные

Мозг человека, то есть хранилище «софта» для формы жизни № 2, возможно, самое сложное создание Вселенной: в голове каждого из нас около 86 млрд нейронов. Нейрон (сильно упрощенно, конечно) может быть или включен, или выключен. То есть даже при таком подходе минимальное количество состояний нейронной сети нашего мозга – это 2 в степени 86 млрд. Но, во-первых, один нейрон может быть связан с множеством других (а не одним) – для этого у каждого нейрона есть до 7000 синапсов (контактов), во-вторых, сила связей между двумя и более нейронами влияет на итоговое общее состояние системы. Сила связей не строго одинакова (исследователи обнаружили 26 дискретных категорий синапсов), и каждую долю секунды состояние будет меняться – нейроны всякий раз будут активироваться уникальным образом: мыслительная деятельность многомерна, и нейроны могут активироваться нелинейно и непоследовательно. Каждый биологический нейрон, по сути, представляет собой компьютер, а не просто сумматор (логическую схему), как в искусственных нейронных сетях.

С этой точки зрения человеческое сознание не имеет ничего общего с искусственными нейронными сетями, в которых каждый следующий слой активируется предыдущим. Еще во многом остается загадкой, какие функции кроме передачи сигналов выполняют дендриты – разветвленные отростки нейронов (появляется все больше свидетельств того, что они играют важную роль в обработке информации).

Усугубляется все тем, что в мыслительном процессе задействованы разные зоны мозга, гормоны, органы чувств и еще масса других параметров, которые «плодят умножение» возможных вариантов. Фактически сознание человека состоит из множества сознаний, работающих в унисон, это своеобразный муравейник. Вся эта экосистема в сухом остатке не сохраняет никаких данных на какой-то носитель, она просто калибрует силу биоэлектрических связей между нейронами в привязке к состоянию сети. То есть два нейрона могут иметь слабую связь при одной мысли или действии и сильную – при другой. А управляется все это по принципу роя – нейроны сами каким-то образом запоминают свою роль в зависимости от ситуации и каждый из них определяет свою переменную связь со всеми остальными в каждый момент времени, оценивая множество получаемых параметров. Все это делает количество вариантов состояния нейронной сети невероятным, самым большим во Вселенной числом, которому нет названия. Даже атомов во Вселенной меньше.

Но это не все, ибо мозг – не просто хранилище: одна простая мысль формата «Я ж яйца забыла купить!» задействует, допустим, 5 млн (оговорюсь сразу: это всего лишь моя гипотеза, то есть гипотеза, основанная на имеющихся знаниях, но все же пока не доказанная и требующая дальнейшей проработки) нейронов сети, активированных и соединенных друг с другом уникальным образом – эдакая «паутинка» (причем один и тот же нейрон может участвовать в бесконечном количестве мыслей). Сложная мысль или мыслительная активность в состоянии стресса, да еще и в движении, будет усилена гормонами и входящими потоками данных с большего количества сенсоров и в результате может задействовать до 90 % (опять же, моя гипотеза) всей существующей сети (это важная деталь, ибо есть примеры, когда люди живут после удаления половины мозга, а это свидетельствует: нейронная сеть, безусловно, умеет адаптироваться под состояние носителя). Здесь же я должен сделать еще одну оговорку: у человечества в настоящее время нет МРТ-сканеров нужного разрешения для того, чтобы очень точно отследить и посчитать количество активированных нейронов, – дело в том, что самые продвинутые технологии магнитно-резонансной томографии позволяют получать изображения мозга с разрешением порядка 0,5 миллиметра. Это кажется огромным достижением, но для получения изображения синапса – связи нейрона с другими, потребуется разрешение совершенно иного класса – 0,001 миллиметра, а для распознавания силы связи потребуется еще большее разрешение. Эти цифры позволяют сделать неутешительный вывод: для задачи наблюдения за мыслительным процессом живого организма МРТ не подходит – если увеличить напряженность магнитного поля пропорционально задачам, мозг сканируемого человека будет попросту разрушен. Мыслительная деятельность трупов – так себе объект для изучения, поэтому нам нужны принципиально новые неинвазивные методы изучения мозга. Поэтому цифры «5 млн и «90 %» – это, как я уже оговаривался, то есть основанная на имеющихся знаниях, но все же пока не доказанная моя гипотеза, требующая дальнейшей проработки. Вероятнее всего, эти цифры будут определены, так же как совсем недавно было уточнено полное количество нейронов в мозге человека – долгие годы считалось, что их 100 млрд, но бразильский нейробиолог Сузана Эркулано-Оузель нашла способ более точного подсчета и теперь мы знаем наверняка, что в мозгу человека 86 млрд нейронов (если вы думаете: «100, 86 – не такая уж большая разница!» – напрасно, разница существенна: 14 млрд – это примерно столько же, сколько в мозгу бабуина, то есть примата – отряда живых существ, которых мы эволюционно считаем близкими себе).

Первая эмулированная биологическая нейронная сеть

Первым, в 1986 году, был описан коннектом (то есть все связи между нейронами) червя-нематоды Caenorhabditis elegans, чья нервная система насчитывает всего 302 нейрона. Команда ученых под руководством будущего нобелевского лауреата Сиднея Бреннера нанесла на карту все 7000 возможных соединений между нейронами, хотя при этом не учитывались синаптические веса (характеризующие силу связи) и направление передачи сигналов. В мозгу человека около 86 млрд нейронов. Считается, что в связях между нейронами заключены многие аспекты человеческой индивидуальности, такие как личность и интеллект, поэтому описание коннектома человека может стать большим шагом к пониманию многих умственных процессов. Определение коннектома червя-нематоды Caenorhabditis elegans заняло более 12 лет упорного труда. Потребовалось выполнить несколько тысяч срезов толщиной 50 нм, которые затем помещались под электронный микроскоп, фотографировались и анализировались вручную.

Данные о коннектоме червя-нематоды были использованы в проекте OpenWorm, задавшемся целью создать цифровую модель организма червя. На данный момент уже созданы компьютерные модели нейронного коннектома и мышечных клеток. Более того, модель нейронной сети червя (с некоторыми упрощениями) была загружена в компьютер, управляющий роботом LEGO Mindstorms EV3. Исследователи утверждают, что шаблоны поведения робота стали аналогичны реакциям червя.

Чтобы описать коннектом человеческого мозга, вероятно, понадобится прорыв, подобный тому, который совершил Крейг Вентер в работе над расшифровкой генома человека. А пока что для воссоздания коннектома одного кубического миллиметра коры головного мозга требуется миллион человеко-часов. Хотя, конечно, надо отдавать себе отчет, что стабильную структуру человеческого коннектома невозможно воссоздать, ведь перестройка связей идет постоянно. Но вполне реально воссоздать «архитектуру» относительно стабильных крупных проводящих путей.