Илл. Павел Кучинский. "Эволюция"
Парадокс Ферми и угрозы будущего
Часть первая.
Настольные книги технооптимистов
Риски и угрозы новой промышленной революции
Социальное программирование и подталкивание
Хозяева информационных потоков и их технологии
Человек в цифровом мире
Железная пята автоматизации
Антропологический переход
Фазовый переход
Власть интеллекта
Антропологический переход и переформатирование мира
Природно-климатическая турбулентность
Вместо заключения. И последние станут первыми
Настольные книги технооптимистов
В начале 2018 года Amazon опубликовал результаты продаж в разделе «Прогностика и нон-фикшн». С большим отрывом первые пять мест занимают книги Э.Шмидта и Д.Коэна «Новый цифровой мир», Дж.Рифкина «Третья производственная революция», К.Шваба «Четвертая промышленная революция», Ю.Харари «Homodeus» и Н.Бострома «Искусственный интеллект: этапы, угрозы и стратегии». Общий тираж этих книг, переведенных на десятки языков мира, превысил 2 млн экземпляров.
При всех отличиях и особенностях позиций этих наиболее влиятельных мыслителей, их объединяет технооптимизм и эйфория относительно технологических достижений последнего времени, а также вера в экспоненциальный рост знаний, услуг и продуктов в ближайшие годы и десятилетия. Указанные авторы сформировали идеологию технооптимизма. Сегодня именно она является господствующей среди политических, деловых и военно-разведывательных элит большинства стран мира. Уважаемые мыслители распространяли на весь мир известную максиму Начальника Третьего отделения Собственного Его Императорского Величества канцелярии, графа А.Х. Бенкендорфа:«Прошедшее России было удивительно, ее настоящее более чем великолепно, что же касается до будущего, то оно выше всего, что может нарисовать себе самое смелое воображение».
Парадоксальным образом, ни в одной из этих наиболее влиятельных книг современности не найти ответа на знаменитый парадокс Ферми. Выдающийся физик, лауреат Нобелевской премии Энрико Ферми, рассуждая с друзьями физиками и журналистами на актуальную в конце 40-х гг. прошлого века тему НЛО, задался резонным вопросом: «А где они все?». Ферми сделал вывод: «Главный парадокс науки заключается не в возможности встречи с инопланетянами, а в отсутствии подобных встреч, и более того, каких-либо следов разумной жизни в космосе». Энрике Ферми высказал свой парадокс в 1950 г. Прошло почти 70 лет, а вопрос остался без ответа.
Мало кто понимает мощь и загадочность парадокса. Чтобы дать о них представление, приведем несколько цифр. Согласно данным мощнейших радио- и иных телескопов, в нашей галактике насчитывается примерно 300-400 млрд звёзд. Примерно в такое же количество оценивается количество галактик в видимой вселенной. Если исходить из общего количества звёзд в видимой вселенной, то получается, что на каждую песчинку на земле приходится порядка 10 тыс звёзд. Данные космологии позволяют оценить количество звёзд, похожих на наше солнце – от 5 до 12% от общего числа звезд. Если взять самую скромную оценку 5%, то окажется, что в видимой вселенной имеется 500 млрд млрд или 500 квинтиллионов солнцеподобных звезд. Не так давно Национальная академия наук США определила, что в звездных системах, подобных нашей, примерно 1/5 имеют землеподобные планеты. Эту цифру, кстати, подтверждают и прямые астрономические наблюдения с использованием новейшей аппаратуры. Из всего этого следует, что примерно вокруг 1% общего количества звёзд во вселенной, вращаются землеподобные планеты с жизнью. В цифрах это дает 100 млрд млрд планет земного типа с жизнью. На каждую песчинку на Земле приходится 100 подобных планет. Предположим, что жизнь является крайней редкостью, а разумная жизнь – вообще уникальным явлением, которое характерно лишь для 1% планет с жизнью. Но и в этом случае мы получим 10 квадриллионов или 10 млн млрд разумных цивилизаций в наблюдаемой вселенной. Из них на нашу галактику должно приходиться как минимум 100 тыс разумных цивилизаций. Поскольку наша солнечная система и Земля относятся к молодым космологическим образованиям, то как минимум 40-50 тыс разумных цивилизаций должны обгонять нашу на десятки тысяч лет. Точку зрения Ферми сегодня разделяют практически все физики и специалисты по космологии.
С 60-х гг. прошлого века осуществляется, в том числе с участием США, СССР, а сегодня России, и других развитых стран международный проект SETI или Проект Поиска внеземного разума. 50 лет расположенные на Земле и в космосе радиотелескопы и другие мощнейшие средства наблюдения обшаривают космос в поисках сигналов. Однако, сигналов нет. Вообще. На сегодняшний день у науки отсутствует объяснение данного поразительного факта. Как сказал в начале нынешнего века крупнейший физик второй половины XX века Джон Уиллер: «Самая большая загадка, на которую не может ответить наука, это – почему мы остаемся одинокими во вселенной». Отвечая на его вопрос, Элвин Тоффлер – крупнейший футуролог, автор всемирного бестселлера «Третья волна» о грядущем в XXI веке научно-техническом перевороте, - сказал, что возможно, «в механизм развития цивилизаций на технологической стадии встроена закономерность их самоуничтожения». Мы одиноки во вселенной, поскольку технологические цивилизации, развиваясь несколько веков по экспоненте, затем гибнут, не справившись с рисками и угрозами, связанными с расхождением между динамикой технологического могущества и потенциалом разрешения противоречий и устранения рисков, с этим связанных.
Удовлетворительного ответа на парадокс Ферми нет и по сегодняшний день. Однако его наличие заставляет всерьёз отнестись к рискам и угрозам экспоненциального развития. Профессионалы риск-менеджмента хорошо знают, что борьбу с угрозами и минимизацию рисков необходимо начинать с их выявления, классификации и ранжирования.
Риски и угрозы новой промышленной революции
Подавляющее большинство авторов, включая К.Шваба, полагают, что нынешняя производственная революция базируется на пяти технологических пакетах. Это – искусственный интеллект, большие данные, интернет вещей, роботизация и дешевый мобильный широкополосный интернет. Магистральное направление – это алгоритмизация общества на основе его оцифровки, либо датизации. На наших глазах происходит одновременное формирование интернета вещей (IoT) и переход к интернету всего. Что касается интернета вещей, то согласно данным компании Juniper Research, в 2018 г. подключено к интернету 21 млрд IoT- устройств, более 2 млрд серверов, компьютеров и планшетов и почти 4 млрд смартфонов. К 2022 г. количество подключенных устройств превысит 50 млрд. К этому времени к интернету будут подключены все производственные линии, инфраструктурные сети и т.п.
Интернет всего, который сложится в начале 20-х гг. нынешнего века будет включать в себя привычный многосекторный интернет контента, IoT, преимущественно одноранговый интернет транзакций и киборг-интернет с подключенными к сети искусственными компонентами и устройствами в человеческом теле. Сложится огромная, включающая более 30 млрд устройств сеть, число связей в которой будет исчисляться десятками триллионов. Именно в этом заключен основной риск процессов новой производственной революции.
Такого рода сеть, включающая разнообразные сегменты: иерархические и одноранговые сети, коммуникации по оптиковолоконным сетям и подключение через ретрансляторы и спутники, является чрезвычайно уязвимой. Согласно исследованиям, проведенным в Массачусетском технологическом институте (MIT), веерные отключения и отказы в результате ошибок и несовершенства станут для такого рода сети повседневной практикой и будут измеряться десятками в год.
Магистральное направление производственной революции – это алгоритмизация всех сторон жизни современного мира. Алгоритмизация не только открывает новые возможности, но и создает угрозы привычному образу жизни и сложившимся культурам.
Выдающиеся психологи, создавшие теории на основе обобщения сотен и тысяч экспериментов, длившихся десятилетиями, например, такие как Д. Канеман - А. Тверски, и С. Л. Рубинштейн - А. В. Брушлинский выделяют как минимум два типа мышления или контура психики. У Канемана это - эвристическое и рациональное мышление, быстрое и медленное. У Брушлинского – алгоритмическое и поисково-прогностическое. Ключевое различие между двумя типами мышления или психики А. Брушлинский формулирует следующим образом: «Психическое, как процесс, изначально и всегда является непрерывным в самом точном и глубоком смысле слова. Непрерывность психического объективно обусловлена его ведущей ролью в регуляции и саморегуляции деятельности людей (и поведения животных). Психическое изначально включено в непрерывное взаимодействие человека с миром, т. е. прежде всего в непрерывное взаимодействие субъекта с объектом, каковым, в конечном счете, потенциально является вся Вселенная.
Если процессуальный аспект мышления (в его вышеуказанном понимании) изучает только психология, то операциональный его аспект исследуют помимо психологии еще и другие науки: кибернетика, математическая логика, теория игр и т. д. Эти последние особенно отчетливо выявляют прерывный характер интеллектуальных операций, прежде всего в случае решения так называемых хорошо определенных или замкнутых задач».
В течение первых 20 лет истории интернета человеческая деятельность, как в производственном, так и в бытовом аспектах осуществлялась по устоявшимся схемам и лекалам. Революционные перемены случились, когда цифровая среда стала интегрироваться на базе платформ. «Платформа – это программно-аппаратная среда алгоритмического поиска, осуществления и контроля за исполнением сделок (других взаимодействий) на основе интеллектуального анализа больших данных». Первая полноценная платформа - вторичный рынок товаров и услуг eBay - появилась еще в 90-е годы. Но лишь в десятые годы платформы стали «нервными узлами» интернета и других видов сетей.
Сегодня на платформенный принцип перешли социальные сети, интернет-магазины, различного рода сервисы и т.п. Наиболее часто в качестве примера платформ используются сервисы так называемой «совместной рыночной экономики», типа Uber, Яндекс.Такси, Airbnb и т.п.
Однако платформы отличаются от традиционных рыночных площадок (marketplace). «Marketplace - это свободное, неограниченное и непрограммируемое взаимодействие на определенной физической или виртуальной площадке. Платформа предполагает, что пользователи, например, продавцы или покупатели услуг действуют по определенным правилам и процедурам, строгим алгоритмам, и, хотя располагают правом свободного выбора, непрерывно получают от платформы рекомендации, корректирующие их поведение и определяющие выбор. Они действуют по алгоритму, заложенному на программном уровне в платформу, и в итоге добиваются искомого – заказывают такси, снимают квартиру в незнакомом городе, нанимают того или иного фрилансера и т.п. Причем алгоритмическим является поведение, как продавцов, так и покупателей».
Платформенный или алгоритмический способ организации коммерческой деятельности развивается экспоненциально. Еще в 2012 г. на платформы приходилось менее 1,5% всего коммерческого оборота в США в потребительском секторе, сейчас – более 15%, а к 2020 г. по консервативному варианту прогноза будет приходиться более 30%. С учетом того, что платформенные принципы и алгоритмизацию взаимодействия продавцов и покупателей все шире используют торговые сети, к 2020 г. как минимум более половины американской экономики без учета финансового сектора перейдет в категорию алгоритмической.
Американские и большинство зарубежных авторов рассматривают платформы как торжество принципа Р2Р систем, или систем «равный с равным». В реальности это не так. У каждой платформы есть хозяин – собственник. Он контролирует алгоритмы и владеет большими данными, определяет структуру деятельности продавцов и покупателей, правила и во многом итоги их взаимодействия в процессе сделок. Платформы только притворяются рынками. На деле это среда непрерывного принудительного планирования и управления поведением.
Социальное программирование и подталкивание
Еще классики марксизма-ленинизма писали, что объективная реальность дана нам в ощущениях. Например, в природе нет цветов: цвета - итог взаимодействия наших сенсоров с реальностью. Любые взаимодействия осуществляются через интерфейс: то, что соединяет нас с реальностью всех трех миров. Интерфейс есть у всех трех типов машин.
В последние три-пять лет выяснилось, что интерфейсы как нельзя лучше подходят для алгоритмизации человеческого поведения. Используя интерфейсы, можно побудить человека к тем или иным действиям, к заранее обусловленному выбору из нескольких альтернатив. Использование интерфейсов для алгоритмизации поведения получило название «надж». Подталкивание, как дословно переводится Nudge, осуществляется как в реальной жизни, так и в информационной среде. Так, К. Санстейн и Р. Таллер установили, что выбор школьниками между полезными, но не слишком привлекательными продуктами и вредными, но притягательными для детей лакомствами зависит не только от их предпочтений, но и от расположения продуктов на полках школьных столовых.
Д. Халперн – один из ведущих когнитивных психологов и проектировщик интерфейсов программ и сервисов – описывает, как сильно на выбор пользователей влияют, казалось бы, такие мелочи, как расположение того или иного элемента интерфейса, шрифт, длина пользовательского соглашения и т.п. В качестве примера он приводит опыт известного рекомендательного сервиса для любителей зрелищных телефильмов. Сервис в порядке эксперимента в течение недели вставил в пользовательское соглашение пункт о том, что клиенты сервиса в случае внезапной смерти завещают внутренние органы владельцам сервиса, а те могут их использовать по собственному разумению. При ежедневной посещаемости сервиса более 250 тыс человек не подписали пользовательское соглашение, то есть отказались от услуг сервиса в течение недели менее чем 1,3%.
Эксперимент был шуточный, но разработчики надж-технологий используют автоматизмы человеческого поведения во вполне серьезных целях. В 2017 г. издан доклад Организации Экономического Сотрудничества и Развития (OECD) о скрытых и открытых факторах публичной политики («Behavioural Insights and Public Policy. Lessonsfrom Aroundthe World»). Согласно докладу, правительства уже 25 стран используют более чем 100 приложений, программ, ресурсов, реализующих надж для решения государственных задач, связанных с управлением выбором и поведением граждан. Еще более широко распространено использование надж в бизнесе. Более 200 компаний, преимущественно в США, Великобритании, странах ЕС, Сингапуре и Гонконге используют надж в коммерческих целях, прежде всего в секторе В2С.
Хозяева информационных потоков и их технологии
Информация нужна для основы основ разумной жизни – реагирования на действительность, определения целей и ориентации в изменяющейся ситуации.
На рубеже нулевых - десятых годов был опубликован бестселлер Эли Паризера об интернет-пузырях. В предисловии к англоязычному изданию книги автор написал: «Моя книга о том, как интернет, когда-то "открытый" и "свободный", стал контролировать нас и ограничивать в информации. Крупнейшие интернет-компании используют многочисленные алгоритмы и фильтры, чтобы показывать нам то, что является для нас наиболее релевантным. Взять хотя бы Google - он корректирует результаты поиска, ориентируясь на наши интересы. То же происходит и с лентой новостей в Facebook - там только те люди, по чьим ссылкам мы чаще всего переходим. И таких примеров множество.
Идея "релевантного интернета" не плоха сама по себе. Но есть у этого явления и обратная сторона. Во-первых, через фильтры мы не можем разглядеть всей картины. Мы видим лишь ее отредактированный вариант. Во-вторых, мы не замечаем самих фильтров. Поэтому даже не догадываемся, что из картины что-то выбросили, что есть другие точки зрения. И, наконец, сегодня не мы определяем, что нам важно и интересно. За нас это делают машины».
Происходит это не из-за коварных козней владельцев крупнейших мировых интернет – компаний С. Брина, Л. Пейджа или М. Цукерберга, а потому, что каждый ресурс стремится как можно дольше удерживать пользователя, приковывать его внимание, сформировать вкусы, интересы, привычки каждого отдельного человека. Не зря в алгоритмической экономике главный и самый дефицитный ресурс – это внимание.
Ключевым является параметр времени пребывания на ресурсе. Если в середине нулевых годов он составлял более 3,5 минут, то сейчас не превышает 17 секунд. Наиболее мощные платформы ведут подлинную битву за внимание. Гуру информационных технологий М. Голдхарбер вспоминает, что заговорил об этом более 30 лет назад: «Реальной целью в ситуации выбора информации является внимание — внимание других людей. Область поставки такого внимания ограничена, поскольку каждый человек может отдать только свое внимание в течение жизни. В то же самое время внимание является, несомненно, желаемым; оно необходимо каждому, и в отличие от материальных благ не бывает слишком много внимания. Поэтому как существующие, так и будущие «информационные технологии» лучше понимаются как «технологии внимания», каждая из которых предлагает свое оружие в битве за внимание».
Интернет-пузырь превратился в информационную тюрьму пока еще нестрогого режима. В 2017 г., выступая на одном из ведущих американских каналов, автор международного бестселлера об индивидуальном поведении в социальных сетях («Explaining individual behavioron the socialnet») В. Хендрикс сообщил, что до 70% американцев и более 80% граждан ЕС удовлетворяются уже освоенными и постоянно посещаемыми интернет-ресурсами, группами в соцсетях и телевизионными каналами. Они пассивно потребляют информацию и не имеют склонности к исследовательской активности в интернете. В этом же выступлении, ссылаясь на статистику Google, В. Хердрикс сказал: «В США в 2015-2016 гг. у среднестатистического пользователя интернета в возрасте от 21 до 45 лет на один запрос поисковику Google относительно нового объекта интереса и внимания приходится более 70 рутинных запросов, уточняющих отдельные характеристики, цену, параметры и т.п. объектов, хорошо знакомых и интересующих пользователя».
Принудительное сужение когнитивного разнообразия пользователей поисковиками и платформами в погоне за вниманием, привлечением рекламодателей и т.п. ведет к социальной инстинктизации, вырабатывает автоматизм и усиливает стереотипы поведения. Как экспериментально показал российский нейрофизиолог и нейропсихолог С.Савельев, автоматизация познавательной поведенческой активности ведёт к морфологическим изменениям в головном мозге.
Благодаря потрясающей пластичности мозга церебральное закрепление алгоритмического поведения происходит не в течение миллионов и тысяч лет и даже столетий, как считалось до последнего времени, а за десятилетия.
Вторым направлением целенаправленного, отчасти организованного, отчасти спонтанного воздействия инфосферы на когнитивные особенности и поведение людей стало стремительное зашумление информационного пространства. По данным одного из ведущих прогнозистов США Н. Сильвера, мощность информационного шума в интернете непрерывно нарастает.
Причин этому как минимум три. Первая – лавинообразно растущая масса спама и плагиата в интернете. По данным агентства Gartner если в 2000 г. доля оригинального текстового контента в интернете составляла 75-80%, в 2010 г. снизилась до 30-35%, а сейчас не превышает 5-7%. Интернет превратился во всемирную информационную свалку клонов информации.
Вторая причина – рост разрыва в интеллектуальном потенциале пользователей интернета. Все большая доля населения глубокие информационно насыщенные, практически полезные ресурсы воспринимает как белый шум – бесполезную информацию. Большинство людей уже не обладает необходимыми знаниями и познавательными навыками, чтобы воспринять, а тем более осмыслить сложный контент.
Третья причина, о которой впервые рассказали Э. Шмидт и Д. Ассанж во время обсуждения проекта книги «Новый цифровой мир», – намеренное зашумление информационного пространства для маскировки и сокрытия действительно важных сообщений и знаний. Недавно российские исследователи Е. Луценко и А. Орлов математически доказали, что белый шум может выступать едва ли не наиболее стойким и эффективным криптографическим алгоритмом. Они же показали, что «зашумление информационного пространства ведет к формированию у наиболее интеллектуально продвинутых его обитателей, догадывающихся о криптографической функции белого шума, комплекса информационной неполноценности и бессилия с последующей алгоритмизацией их познавательной деятельности».
Информационная среда чутко, а часто опережающе реагирует на реальные конфликты, столкновения, войны и перемены. Производственная революция, вне зависимости от своего номера, неизменно сопровождается нарастанием локальной и глобальной конфликтности – бунтами, революциями, горячими и холодными гражданскими и межгосударственными войнами. И нынешняя - не исключение. В 2016 г., по мнению редакции Оксфордского словаря, словом года стала "пост-правда". Термин описывает ситуацию, когда истина становится не принципиально важной. Президентская кампания 2016 г. в США прошла под знаком пост-правды. Демократы и республиканцы активно обвиняли друг друга в использовании лжи, фейковых новостей, армий ботов, разносящих неправду, и т.п.
Между тем, ничего нового в пост-правде нет. Более 25 лет назад политический аналитик и китаист Г. Айзенкс, предисловие к первой книге которого о китайской революции написал ещё Л. Троцкий, опубликовал работу «Идолы племени: групповая идентичность и политические изменения». В книге показана неизбежность в развитых странах нарастания конфликтов и перехода их из фазы споров и конкуренции в стадию борьбы и холодных и даже теплых гражданских войн. В таких войнах, по Г.Айзенксу, неизбежно формируется групповая идентичность на основе противопоставления одной группы другой по принципу «свои - чужие». Это противопоставление наиболее остро будет проявляться не в политике и экономике, где противоборства ограничены институтами и правилами, а в информационной сфере. Российский теоретик и практик медиакоммуникаций В. Соловей на массиве исторических данных показал неизбежность перерастания внутригражданских конфликтов в информационные войны.
В ходе информационных, - как, впрочем, и холодных, теплых и горячих, - войн правда отходит на второй план. В инфосфере, как на реальном поле боя, действует принцип «все для фронта, все для победы». Неважно, кто, что и насколько правдиво сообщает. Главное, что информация наносит вред врагу и укрепляет собственную идентичность.
Любые войны, и информационные – не исключение, предполагают четкое планирование и беспрекословное подчинение. Соответственно, времена пост-правды – это эпоха тотального управления информационными потоками, программирующими и алгоритмизирующими массовое поведение.
Человек в цифровом мире
Тенденции развития информационной среды в последние 25 и особенно 10 лет, с интернет-пузырями и эхо-камерами, тотальным контентным загрязнением, размыванием границ информации и дезинформации, психологическими и информационными войнами привели к появлению трех принципиально новых феноменов.
Во-первых, у все большего числа и доли пользователей, особенно молодёжи, понятийно-логическое мышление уступает первенство образно-ассоциативному или клиповому. Клиповое мышление предполагает сосредоточенность на восприятии и переживании, а не на понимании и анализе. У клипового мышления есть свои плюсы и минусы. Исследователи из MIT и Института сложности в Санта-Фе установили, что клиповый тип мышления на порядок повышает внушаемость людей, их склонность к суггестии.
Во-вторых, примерно половина пользователей всех возрастов и более 90% молодежи находятся в режиме потребления информации нон-стоп. Если в работах психологов и социологов девяностых – нулевых годов этот феномен описывался как интернет-зависимость, то теперь после выхода упомянутой выше книги Э. Шмидта и Д.Коэна исследователи пишут о переселении молодежи в цифровой мир. В среднем молодой американец в возрасте от 18 до 35 лет обращается к гаджетам не реже, чем раз в 10 минут. Причем промежутки между обращениями из года в год уменьшаются в геометрической прогрессии.
В-третьих, некогда единый интернет распадается на отдельные кластеры и фрагменты, мало связанные между собой. Деление происходит не только по интеллектуальному или имущественному критериям. Границы проходят даже внутри семей, друзей и родственников, в основном в соответствии с культурными ориентациями, политическими убеждениями, характером времяпрепровождения и т.п.
Еще на рубеже 50-60х гг. ХХ века - в эпоху расцвета радио и телевидения - известный американский социолог и политолог Г. Лассуэлл охарактеризовал тогдашние США как «высокоманипулируемое общество, в котором информационные потоки управляют поведением граждан и врачуют их психологические недуги». Дезориентированность в сочетании с подверженностью к суггестии (некритическое восприятие убеждений и установок) значительной части населения стимулирует элиты к поддержке не только теоретических, но и практических разработок в области социального программирования групп разной размерности.
Социальное программирование по своему арсеналу и сути глубже, чем надж. Если надж использует преимущественно поведенческие стереотипы и привычки, то социальное программирование предполагает разработку определенных языков, посредством которых можно описывать процедуры, подспудно заставляющие человека осуществлять определенные действия. А главное, не просто описывать, а реализовывать эти процедуры. В социальном программировании используются не только стереотипы и привычки, но и особенности восприятия, а также характеристики психических состояний, например, такие как тревожность, возбужденность, агрессия и т.п. Наиболее далеко теоретические и практические разработки в области социального программирования (social software) продвинулись в США, Великобритании, Нидерландах и Японии.
|
