giovanni1313 (giovanni1313) wrote,
giovanni1313
giovanni1313

Category:

Пределы устойчивости и борьба за прогресс


«Прогресс затормозился. Последние значительные изобретения появились в 1960-ые — и с тех пор ничего принципиально нового человечество не придумало». Такая скептичная точка зрения сегодня является довольно популярной. Самолеты — всё такие же. Двигатель внутреннего сгорания — вообще придумали в позапрошлом веке. Антибиотики, космические полеты, радиосвязь — никаких сопоставимых по масштабу новых технологий в последнее время не появилось.

А если скептикам возразят про информационные технологии, скептики снисходительно их отбросят — мол, экономического эффекта от них не видно. В лучшем случае сочтут за исключение из общего правила. Да и вообще этот ваш Unix был написан в 1970-ом, так что спорить тут не о чем!

Самое ироничное здесь то, что такие постики и дискуссии возникают, как правило, в самом что ни на есть онлайн-пространстве. О котором никто даже и представить не мог ни в 1960-е, ни в 1980-е. И доступ в которое техноскептики получают благодаря весьма современному аппаратному и программному обеспечению. И это никак не назовёшь исключением. Это общее для нынешних реалий правило, и оно гораздо важнее, чем кажется на первый взгляд.


Почему? Дело в том, что человек — это социальное животное. Вся гигантская махина цивилизации возникла и работает за счет связей между людьми, за счет их кооперации. И всё это обеспечивается коммуникационными потоками. Коммуникации делают нашу цивилизацию цивилизацией, а не просто бесчисленной толпой лысых приматов. Коммуникации — это та неосязаемая, «волшебная», ключевая субстанция, которая и позволила человеку овладеть энергией атома, полететь в космос и наслаждаться холодным крафтовым пивом под просмотр постапокалиптических сериалов.

И вот этот самый ключевой компонент последние два десятилетия претерпевает феноменальное по масштабу и скорости переформатирование. Меняется то, как мы получаем и как передаём информацию. В какой форме. Кому и от кого. В каком объеме и как часто. В каких ситуациях. Наконец, самое главное — что именно мы передаём и получаем.

Это переформатирование касается самого «чувствительного» аспекта нашей цивилизации, буквально определяющего, что она собой представляет. Можно спорить о том, в какую сторону это движение (прогресс, по определению — движение вперед). Но нельзя спорить о том, что наша жизнь сейчас меняется сильнее, чем в середине 20 века.


Масштаб изменений в обыденной жизни легко измерить, если взять время, которое человек тратит на ту или иную технологию. Например, в автомобиле человек проводит в среднем 1 час 42 минуты в день (данные для сильно автомобилизированных США). В самолете — очевидно, гораздо меньше. А вот на онлайн люди в среднем тратят почти 8 часов в день — или, по другим данным, даже немного больше.

Впрочем, не столько интересен масштаб проникновения новых информационных технологий в нашу жизнь, сколько его последствия — не зря мы делали акцент на важность коммуникаций. И здесь наше любопытство совпадает с интересом большой, междисциплинарной группы ученых, которые на днях опубликовали программную статью о вызовах продолжающейся эволюции онлайна. Давайте подробнее познакомимся с ее тезисами.

Сначала — ключевые моменты. Онлайн-платформы — социальные сети, мессенджеры, поисковики и т. п. — а также вся Сеть целиком являются примерами сложных систем. У сложных систем есть масса уникальных особенностей (которые заслуживают отдельного разговора), но с позиции оценки рисков, из которой исходили авторы, особо выделяется одна. Это наличие определенного предела устойчивости к разного рода возмущениям. При исчерпании которого система претерпевает быстрый коллапс, причем зачастую вернуться в исходное состояние она уже не сможет.


В список возможных возмущений, к слову, входят и изменения, вызванные технологическими новациями. Влияние техносферы на природные сложные системы (т. е. экологию) наукой проработано неплохо, чего нельзя сказать о влиянии на общество и отношения в нем. Хотя — казалось бы — во втором случае эффект получается самым что ни на есть прямым.

В итоге наука сейчас попросту не знает, как отражается то или иное технологическое нововведение на социальных отношениях. Мы не можем дать объективного ответа на то, в какую сторону экспансия онлайна двигает общество — вперед, в сторону прогресса, или же наоборот. И тем более мы не можем скорректировать курс этого движения в нужном нам направлении.

При этом более чем вероятно, что курс нуждается в корректировке. Ни эволюционные («естественные») изменения в нашем обществе, ни технологические новации сами по себе не обязаны вести вперед, поддерживать устойчивость глобального развития и улучшать качество жизни. Практически весь онлайн-мир коммерциализирован — а это значит, что главным критерием использования тех или иных технологий является максимизация прибыли.

Из исторических примеров мы хорошо знаем, что капитализм, будучи предоставлен самому себе, пренебрегает задачами улучшения качества жизни большинства населения и склонен к хищническому, неустойчивому поведению. Капитализм построен на эксплуатации ресурсов — трудовых и природных — а не на стремлении к этическим ценностям.


Так называемые «экстерналии» — эффекты, внешние по отношению к бизнесу — являются неотъемлемой частью капиталистического ведения хозяйства. Классическим примером экстерналии является загрязнение окружающей среды. Мы без труда можем найти примеры негативных экстерналий и для онлайна: например, неконтролируемая зависимость от смартфона или распространение антипрививочных теорий в социальных медиа.

Последний пример может проиллюстрировать тезис о катастрофических сценариях в сложных системах. Представим, что вместо COVID-19 человечество столкнулось бы с гораздо более смертоносным вирусом. В таком случае иррациональные антипрививочные настроения могли бы попросту лишить цивилизацию единственного способа справиться с пандемией — и привести к кратному сокращению численности населения планеты.

Проблемы капитализма на этом не заканчиваются. Вспомним, что коммерческие технологические системы непрозрачны. То есть мало того, что мы не знаем, каковы будут последствия внедрения той или иной технологии — капитализм еще и дополнительно препятствует такому анализу. Согласитесь, нельзя требовать от ученых знания свойств «черных ящиков», запертых за семью замками в тщательно охраняемых корпоративных дата-центрах.


Наконец, цифровой характер технологий позволяет масштабировать их очень быстро сразу на миллиарды пользователей. Что возвращает нас к пределу устойчивости: с моментальным масштабированием угроза катастрофического исхода возрастает на порядки.

Нам тяжело оценить «со стороны» масштаб изменений в организации общественных коммуникаций — мы пользуемся ими практически каждый день и воспринимаем их как данность. Поэтому обратим внимание на четыре важнейших перемены, которые имеют беспрецедентный характер в истории вида Homo sapiens.

1. Увеличившийся размер социальной сети.

Причем ключевой момент в том, насколько он увеличился. А именно, на 8 порядков. Социальная группа из нескольких десятков особей, компактно расположенных географически, превратилась в 3,7 миллиарда соединенных Сетью людей со всех концов земного шара.

8 порядков — это критический масштаб роста для любой сложной системы, неизбежно требующий кардинальной перестройки ее структуры и компонентов. И здесь мы сталкиваемся с тем, что темпы биологической эволюции Homo sapiens безнадёжно уступают скорости происходящих изменений.


Вы хотели прогресса? Человек не заточен под прогресс. Человек заточен на существование в малых, сплоченных, обособленных группах посреди враждебных условий. И изменить его природу за столь короткий промежуток времени невозможно.

А потребность в изменениях продолжает расти. В качестве иллюстрации ученые упоминают совершенствование машинного перевода, которое грозит еще одной революционной перекройкой коммуникационного поля и дальнейшим ростом размера социальной сети.

«...Изменения в масштабе сами по себе имеют потенциал изменить способности группы в принятии правильных решений, достижении чёткого большинства и кооперации», — подытоживают авторы. Всё это создаёт угрозу для стабильности системы.

2. Изменения в структуре сети

Выше мы уже говорили о том, что связи между индивидуумами составляют сущность нашей цивилизации. Оффлайн-связи структурно не слишком изменились с первобытных времен по наши дни, отмечают исследователи. Но социальные сети, существующие в онлайне, отличаются от них кардинальным образом.

В числе более очевидных отличий можно назвать частоту контактов и географическое расстояние между общающимися людьми. Но самые интересные находки появляются, когда мы начинаем изучать влияние структуры на обработку и перемещение информации по ней. Новые паттерны ведут к появлению эмерджентных феноменов: например, комплексное заражение, конформность или правило большинства.


На самом высоком уровне мы можем связать с новой структурой такие явления, как международное и междисциплинарное сотрудничество, быстрое распространение научных идей, прямое участие граждан в науке и политике и социальную интеграцию индивидов, прежде исключаемых из локальных сообществ из-за своих предпочтений и верований.

Всё это — не менее, а то и более убедительные аргументы в пользу прогресса, чем изобретение антибиотиков и полет в космос. Однако структурные изменения не обязаны всегда идти на пользу системе. «Более традиционные формы медиа вроде ТВ, газет и книг позволяют индивидуальным авторам и создателям контента достичь большего числа людей, чем жило [на планете] всего несколько тысяч лет назад. Индивиды с большим числом связей имеют гипертрофированное влияние, и маловероятно, что их центральное положение [в структуре] связано исключительно с созданием информации более высокого качества. Вместо этого их популярность может быть результатом накопленного преимущества или тенденции вызывать эмоциональный отклик».

Сопутствующие эффекты подробнее обсуждаются в следующем пункте.

3. Корреляция и добротность информации

Одно из важнейших достижений онлайна — возможность передачи информации без потерь и искажений. Казалось бы, это очень хорошая вещь?

С одной стороны, да, этому можно найти полезное применение. Но вспомним о пределе устойчивости сложных систем: для него бОльшее значение имеет масштаб возмущения, а не интуитивная «польза» от нововведения. Интуиция слишком часто ошибается, и отсутствие проработанных моделей для оценки влияния тех или иных изменений требует крайне осторожного подхода:

«Ранняя человеческая коммуникация была в основном биологической (т. е. звуки, жесты, речь), относительно медленной и по своей природе подверженной шуму, что приводило к мутированию и деградации информации, перемещающейся по сети. Эксперименты и наблюдения свидетельствуют, что этот естественный распад информации позволяет влиянию конкретного узла пройти 3-4 степени разделения от источника.

В то время как шум, задержка и распад информации часто рассматриваются как нежелательные феномены в других областях науки, в коллективных системах они могут выполнять несколько важных функций. Шум может преодолеть тупик в противостоянии и стимулировать кооперацию, способствовать когерентности и улучшить обнаружение слабых сигналов через феномены, подобные стохастическому резонансу[…] Более того, быстрые потоки информации могут вызвать перегрузку когнитивных процессов, вследствие чего ухудшится правильность решений».


Обратная сторона медали есть и у тренда на удешевление создания и распространения информации. Коммуникационные барьеры были фильтрами на пути информации. Соответственно, с их сломом дезинформация и фейки оказались в исключительно благоприятных условиях.

Когда фильтров больше нет, сильно уменьшается и мотивация создавать и распространять высококачественную информацию. Мы хвалим демократичность отношений в Сети — но эта же демократичность означает, что все сообщения получают одинаковый статус, вне зависимости от их качества и достоверности. Интернет — это «Великий Уравнитель», для которого конспирология про чипирование через вакцины механически ничем не отличается от крупнейших научных прорывов.

Сеть формирует и новые способы ухода от ответственности — анонимность, псевдонимность и правка публично доступной информации. В итоге, с уменьшением издержек на фейки и обман, соотношение выгод и затрат для дезинформации начинает выглядеть всё более привлекательным.

Этим могут воспользоваться — уже пользуются — разнообразные нечистые на руку группы, конвертируя ложь в собственный политический и финансовый капитал. Вот так невинная на первый взгляд технология преображает моральный ландшафт общества и грозит пустить в разнос его политическую систему.


Децентрализованная модель социальных медиа, в которой мы сами себе являемся контент-менеджерами и «главными редакторами», вызывает интуитивное одобрение. Но, купившись на свободу выбора и ”empowerment”, мы совершенно не обращаем внимание на эффекты более высокого порядка. В частности, мало у кого есть профессиональные навыки редактуры — и коллективный результат работы миллионов самопровозглашенных «главных редакторов» будет обладать качеством, соответствующим среднему уровню их навыков.

Обобщая, можно сказать, что социальные медиа отдают нам полномочия по управлению потоками информации. Но мы совершенно не умеем ими управлять и, по большому счету, не слишком стараемся подходить к этой работе ответственно.

4. Алгоритмическая обратная связь

К счастью, информационная революция породила и решения, проектируемые специально для обработки информации и обеспечивающие стабильное качество работы. Речь, конечно, об алгоритмах.

Проблема с этими решениями может заключаться в том, что они, во-первых, точно так же привносят новые возмущения в нашу социальную структуру. А во-вторых, метрики, по которым оценивается качество их работы, могут совершенно не совпадать с интересами всего общества.

«В совокупности, мы передаем процессы по сбору информации, возникшие эволюционным путем, на волю алгоритмов. Но дизайн этих алгоритмов, как правило, служит максимизации прибыли, и часто в нем отсутствует стремление продвигать информированное, справедливое, здоровое и устойчивое общество».


Описанные сдвиги подчеркивают глубину трансформации самых базовых аспектов нашего общества. Но, описав глубину трансформации и неразрывно связанный с ней масштаб рисков, — условно, «кто виноват?» — авторам статьи приходится отвечать и на вопрос «что делать?».

Первоочередная проблема — это отсутствие знаний о нашей социальной системе. Отсутствие знаний о её онлайн-структуре. О том, как она видоизменяется. О том, как она обрабатывает потоки информации. О том, как функционируют цифровые алгоритмы и как они на нее влияют.

Без этих знаний мы беспомощны. Мы не в состоянии ни предвидеть тот или иной риск, ни, тем более, попытаться его минимизировать. Причём ирония в том, что именно Сеть и информационные технологии впервые в истории человечества предоставляют нам наиболее полные возможности по изучению этих данных.


Мы живём в эпоху информационного изобилия — но до сих пор это изобилие используется в лучшем случае для незамысловатых развлечений, для мемосиков, сериальчиков и разглядывания чужих фоток. Попытки извлечь из этого изобилия знание об устройстве общества и объективных механизмах его работы фрагментарны, несистематичны и не в состоянии дать даже общую картину, не говоря уже о частностях.

Этот постыдный контраст продиктован логикой потребления. В этой логике нет места знанию, зато есть индивидуализм и гипер-персонализация. Исполинская машина дата-майнинга сегодня сконцентрирована на конкретных, обособленных индивидах, на их покупательской способности, на монетизации их внимания. Сегодняшний дата-майнинг преследует интимную близость к пользователю и совершенно равнодушен к явлениям более высокого порядка.

Декомпилировать социальную Матрицу оказалось намного сложнее, чем оцифровать предпочтения отдельно взятого пользователя. И даже не столько сложнее, сколько менее перспективно. Капитализм в очередной раз выиграл у неуклюжих политических амбиций. Политтехнологии, для которых знание изнутри механизмов работы общества является самым настоящим «священным Граалем», в итоге так и не выросли во что-то более серьезное, чем эксплуатация незамысловатых манипулятивных схем. Вываливаемых на избирателя по принципу «чем больше (предвыборного бюджета освоено) — тем лучше».

Возможно, это игнорирование социального моделирования капиталом и политическими игроками — к лучшему. Для обоих устойчивость системы не является первоочередной целью. Но потребность в таком знании растёт буквально каждый день. И авторам статьи остаётся только призывать своих коллег из академии, из разных ее дисциплин, соединить свои усилия, чтобы сделать наше общество более предсказуемым, более прозрачным и — в конечном итоге — более здоровым и сильным.


Это огромная по сложности задача (что в том числе определяет и требования по междисплинарному подходу). Во многом она беспрецедентна — настолько многочисленны и разнообразны механизмы и элементы системы, и настолько широкий спектр последствий надо учитывать. Но масштаб этого челленджа, с точки зрения науки — это то, что делает работу над ним более привлекательным.

Сложность подразумевает, что речь не идёт о некоем «волшебном» методе, позволяющем по щелчку пальцев получить самое благоприятное решение, откинуться на спинку кресла и наслаждаться вертикальным прогрессом. «Руководство социальными системами изначально подразумевает риск, компромиссы и неоднородные выгоды и издержки», — честно предупреждают авторы. Но даже сама возможность предварительно увидеть и оценить эти выгоды и издержки до того, как внедрена та или иная инициатива, может колоссально изменить нашу жизнь к лучшему.

Разумеется, для того, чтобы знание о нашей социальной системе могло приносить пользу, оно должно быть применено в конкретных решениях, в конкретных политиках и стратегиях. Другими словами, речь идёт о том, чтобы это знание имело вполне конкретную власть.

Это не новый подход к власти. Когда-то его называли социальной инженерией, но сейчас в глазах широкой публики этот термин скомпрометирован. Сначала авторитарными режимами, а в наши дни и значением «психологические манипуляции с целью взлома компьютеров». Авторы статьи предпочитают более мягкое (в английском варианте) «руководство коллективным поведением». Впрочем, суть остаётся практически той же с момента появлении идеи на рубеже 19/20 веков.
Следуя своим же выводам об отсутствии сколь-нибудь адекватной информации об объекте управления, статья очень осторожно касается возможных форм реализации такого руководства. За небольшим исключением — предложений в части организации собственно научной работы, что вполне разумно.

Но при желании между строк можно найти достаточно откровенные идеи. «Решения, которые влияют на структуру общества, должны не приниматься под влиянием отдельных заинтересованных лиц, а следовать таким ценностям, как ненанесение вреда, благожелательность, автономия и справедливость». Всё так: когда ставки высоки, участие человеков в принятии решений действительно влечет за собой массу проблем. Ну а если мы человеков убираем — это означает кардинальное переформатирование системы управления, которая целые тысячелетия выстраивалась под этих самых человеков. Очень непростой процесс, в котором невозможно опереться только на перечисление уважаемых ценностей.

Это признают и сами авторы, указывая на необходимость синтеза расплывчатых «гуманитарных» категорий и строгой алгебры кибернетического языка. «В отсутствие глобально разделяемого нормативного фреймворка для определения, что должно подразумеваться под здоровыми сообществами или желаемыми социотехнологическими взаимодействиями, может быть сложно даже прийти к согласию, в чем же может заключаться этическое руководство. Разработка этических стандартов, учитывающих спектр культурных взглядов, исторического прошлого и традиций, затрагиваемых коммуникационными технологиями — нелегкая задача».

(кликабельно)

Вдобавок ко всему, эти труднорешаемые вопросы будут сталкиваться с противодействием игроков, чьи интересы затрагивают попытки сделать общество лучше. Статья описывает конфликт интересов с капиталом, но очевидно, что и у государственных властных структур желание подчинить управление Сетью научным данным будет вызывать глухое недовольство.

В этой ситуации наука как наиболее слабая с точки зрения доступных ресурсов (административных, финансовых и медиа-) сторона оказывается в заведомо невыгодном положении. Инициатива имеет немалый шанс быть задвинутой на третьи роли, а с учетом сложности задач — и вовсе быть преждевременно закрытой по причине «несостоятельности».

Одной опоры на этику — и на «академическую нейтральность» — недостаточно для изменения баланса власти в свою пользу. Впрочем, не хочется заканчивать на мрачной ноте. По большому счету, рассматриваемая статья скорее пыталась обратить внимание на проблему, а не предложить гарантированный механизм ее решения. И авторы абсолютно правы в своей ставке на социальную инженерию — альтернативы ей попросту нет.


Но вернемся к началу и к определению сложной системы. Устойчивость сложных систем — а наше общество является примером такой системы — это «палка о двух концах». Обеспечивая жизнеспособность системы, это свойство одновременно стабилизирует её устройство, другими словами, затрудняет изменения. При этом скорость протекания изменений в различных частях системы может отличаться кардинально.

В нашем случае безудержный галоп в коммуникациях резко контрастирует с неизменным консерватизмом в механизмах распределения и реализации власти. Этот консерватизм — эволюционная черта: управленческие механизмы являются критически важными для поддержания существования системы.

И если мы хотим наинженерить себе более светлый вариант будущего, нам придется ломать сложившиеся механизмы, преодолевая гигантское сопротивление.

Эти барьеры были выстроены, чтобы защитить общество, представляющее собой толпу ничего не соображающих лысых приматов, от самого себя. Но, пожалуй, что-то могло измениться. Могло. Если мы действительно стали владеть законами управления лучше, чем слепой эволюционный консерватизм — стоит приступить к осознанному демонтажу ограничений .

Нашей целью должно стать превращение толпы ничего не соображающих лысых приматов в стройную кибернетическую систему. Если у нас получится, это будет такое достижение прогресса, по сравнению с которым померкнут и радиосвязь, и печатный станок, и колесо.

И — да, мы гораздо ближе к этому, чем может показаться скептикам.



_______________________________________________________________
Друзья, я начал вести канал в Телеграм: Экономика знаний. Подписывайтесь!
Tags: ТНК, глобализация, институты, интернет, медиа, синергетика, социодинамика, технологии
Subscribe

  • Дерзкие иллюзии

    Новая модель «Теслы» за $ 25 000 – звучит очень заманчиво. Но то, как этот автомобиль сейчас обсуждается на уровне…

  • Экспроприация с моральным превосходством

    Вдогонку к посту о высоких стандартах социалистической цензуры культуры — история, прекрасно дополняющая картину…

  • С кем вы, мастера культуры?

    Вместо экономических и технологических достижений 14-ая китайская пятилетка пока может похвастаться только крепчающим маразмом. Товарищ Си…

  • Post a new comment

    Error

    Anonymous comments are disabled in this journal

    default userpic

    Your IP address will be recorded 

  • 36 comments

  • Дерзкие иллюзии

    Новая модель «Теслы» за $ 25 000 – звучит очень заманчиво. Но то, как этот автомобиль сейчас обсуждается на уровне…

  • Экспроприация с моральным превосходством

    Вдогонку к посту о высоких стандартах социалистической цензуры культуры — история, прекрасно дополняющая картину…

  • С кем вы, мастера культуры?

    Вместо экономических и технологических достижений 14-ая китайская пятилетка пока может похвастаться только крепчающим маразмом. Товарищ Си…