giovanni1313 (giovanni1313) wrote,
giovanni1313
giovanni1313

Categories:

Плод раздора, плод надежды

Продолжим наш разговор о социальных сетях, их нынешних проблемах и о попытке "Фэйсбука" бороться с валом дезинформации, захлестнувшим платформу.

Мы определились с тем, что проблемой является низкое качество информационных потоков, поступающих к пользователю. А ключом к этой проблеме становятся новые формы структурирования знаний - например, привлечение внешних независимых экспертов и интеграция их анализа в выдаваемый контент. Эти формы требуют серьезной организационной работы и ресурсов для функционирования (что мы видели на примере с экспертами ”Science Feedback”). Качество не может вырасти само собой: кто-то должен непрерывно и целенаправленно заниматься такой деятельностью.


В обсуждении китайской Системы социального кредита (ССК) мы назвали эти организации агентами знаний. Там мы обрисовали более серьезную их роль — быть архитекторами Веба 3.0, обеспечивать интеграцию и гармонизацию данных из разных источников, и, в целом, быть его организующей силой.

”Science Feedback” выполняет более скромную, «техническую», хотя и близкую задачу. Но мы оговаривали, что предпочтительно привлекать к работе множество агентов знаний, своего рода «сеть внутри Сети». Так могут быть задействованы положительные эффекты как конкурентной среды, так и взаимовыгодной кооперации между агентами. Плюсы такой организации в более мелком масштабе берёт на вооружение и сама ”Science Feedback”, где одну статью разбирает сразу несколько экспертов.

Помимо большой гибкости и надежности такой системы, агенты могут специализироваться на выполнении отдельных функций, что позволит добиться максимальной эффективности. В нашем случае НКО отлично справляется с поставленной задачей, а вот сваливать на неё какие-то другие обязанности было бы неразумно. Специализация и экспертиза — очень важные категории в архитектуре Веба 3.0. Давайте остановимся на них подробнее.

Модерация контента существует в интернете уже давно. Но эта модерация в основном не требует наличия специализированных знаний. Для того, чтобы опознать порнографию или призывы к терроризму и удалить их, не нужно защищать докторскую диссертацию. Сам «Фэйсбук» несколько лет назад использовал для этой работы филиппинцев, которым платили 1,5-2 доллара в час (сейчас существенную ее часть взяли на себя нейросети).

Разумеется, для продвинутого структурирования информации нужен гораздо более серьезный подход. Чем сложнее задача — тем более высокой экспертизы требует ее выполнение. Чтобы детально проанализировать обсуждаемую проблему и выстроить вокруг нее научный контекст, нужно иметь обширные знания в соответствующей области. ”Science Feedback” неслучайно уделяет столько внимания отбору привлекаемых экспертов, их регалиям и репутации: качество результата в первую очередь зависит от их компетенции.


Абсолютно по тому же принципу работает и оффлайн-мир. Там, где мы видим наибольший прогресс (в первую очередь, это научная и экономическая сферы), функциональные роли в организациях являются строго специализированными. «Беда, коль пироги начнет печи сапожник, / А сапоги тачать пирожник» - писал дедушка Крылов в начале 19 века. Сейчас всё усложнилось многократно: вместо сапожника с пирожником у нас есть квантовые физики, инженеры-микробиологи, программисты на ассемблере для ARM и десятки тысяч других профессий и специализаций, в которых без конкретных знаний - «беда», вплоть до полной беспомощности.

А вот в Веб 2.0 специализация отсутствует вовсе. В соцсетях важно лишь количество: лайков, просмотров и репостов. В поисковиках — тоже количество: входящих ссылок; их вес также рекурсивно зависит от количества других входящих ссылок. Веб 2.0 слабо использует качественные характеристики, словно не подозревает о существовании этого «измерения». Этим отчасти и объясняется засилье информационного шума и прочих мемосиков: контент ранжируется из принципа «наименьшего общего знаменателя».

Но для освоения конструктивного потенциала нужно не низведение до «общего знаменателя», а наоборот, усложнение структуры Сети. Чтобы Сеть стала сильнее, ее элементы — мы с вами — должны стать разными. Вернее, Сеть должна знать, что мы разные, в чем именно мы разные, и — самое главное — в чем именно каждый из нас силен.

Более того, у Сети должны появиться инструменты для использования этих сильных сторон в общих проектах. Потому что пока из всех инструментов нам (всем одинаково) доступны только кнопочки «лайк», «репост» и «комментировать» - ничего, кроме мемосиков, Сеть будет породить не в состоянии.

На примере ”Science Feedback” видно, что и обратное тоже верно. Как только мы уделяем должное внимание компетенциям и наделяем нужных людей возможностью дополнить контент своим знанием, коммуникации получают качественный апгрейд.

Сегодняшняя Сеть уже пытается различать пользователей: пресловутую персонализацию также можно отнести к этому направлению. Но, во-первых, персонализация в первую очередь направлена на увеличение потребления развлекательного контента. То есть для соцсетей пока важно знать наши различия в развлечениях — а конструктива тут немного, и всё это очень недалеко уходит от «наименьшего общего знаменателя».

Во-вторых, механизм персонализированного подбора контента строится на основе похожести предпочтений групп пользователей. То есть опять в ход идут количественные методы, изменяется лишь масштаб цифр. Напротив, для Веба 3.0 важнее уникальность, а не похожесть. Уникальность может быть достигнута только применением качественных характеристик. И чем уникальнее компетенции, тем потенциально ценнее такой человек для Сети.


В отличие от анализа похожих предпочтений, задача накопления знаний о сильных сторонах пользователей очень сложна. В оффлайн-мире механизмы учета такой информации формировались столетиями: от рекомендаций «из уст в уста» от знакомых людей, до дипломов университетов, профессиональных резюме и творческих конкурсов. В нашем случае НКО не стала «изобретать велосипед» и при отборе экспертов руководствовалась проверенными критериями из оффлайна: ученой степенью и публикациями по климатической теме в ведущих научных изданиях.

Перенесение в Сеть оффлайн-информации о компетенциях, чтобы задействовать её в онлайн-пространстве — хорошая идея с точки зрения баланса выгод, затрат и рисков. Было бы глупо отказываться от накопленного и даже выстраданного «багажа» работающих механизмов учета компетенций. Но важно не останавливаться на этом. Ограничив Веб 3.0 уже существующими механизмами, мы не сможем сколь-нибудь далеко продвинуть социальный прогресс.

Недостатки нынешних оффлайн-практик учета экспертизы нам хорошо знакомы. В основном они связаны со слишком грубыми метриками и преобладанием тех же количественных подходов. Невостребованность вузовских дипломов в глазах работодателя давно стала общим местом как в России, так и за рубежом. Резюме дают очень немного при профессиональном отборе: как правило, кандидатам требуется пройти интенсивные собеседования, иногда — решить пробные задачи по своему профилю. Даже после этого работник часто принимается на испытательный срок, т. е. работодатель по-прежнему остается неуверенным в компетенциях соискателя.

Индексы цитирования в академической сфере — классический пример ограничений количественных оценок. Мало того, что они подвержены манипуляциям, так еще и никак не демонстрируют разницу в экспертизе между, скажем, нефтехимиком и специалистом по древнекитайской поэзии.

Инструменты обработки больших данных, в первую очередь машинное обучение, дают нам возможность на многие порядки расширить объем, глубину и точность накопленной информации об экспертизе человека. Нам становятся доступными данные о мельчайших деталях и аспектах — а это позволяет очень эффективно задействовать их в решении конкретных задач. Аналогией здесь может быть качественный скачок между рекомендацией «из уст в уста» («он хорошо разбирается в древнекитайской поэзии») и современной формой академического резюме, с указанием профиля научных интересов, списка опубликованных работ, выступлений на конференциях, освоенных иностранных языков, языков программирования и т. п.

Ручной сбор и формализация такой информации трудоёмки, и с ростом детализации трудоёмкость возрастает кратно. Именно поэтому здесь критически важны алгоритмы. И втройне они важны в анализе собранных данных. Эти алгоритмы должны быть одной из составляющих частей Веба 3.0, бесшовно встроенных в него и непрерывно поддерживающих актуальность информации о пользователях. Для примера, представьте, что вы прочитали какую-то специализированную книгу, или даже отдельную страницу из нее — и это сразу отражается в вашем личном профиле экспертизы.

Cхема управления талантами корпорации "Sprint". У Сети нет ничего даже близкого из организационных инструментов - а ведь ее возможности намного шире...
Такой плотный сбор информации о пользователе вновь перекликается с китайской Системой социального кредита. Впрочем, в случае Китая освоение конструктивного социального потенциала новых технологий даже не декларируется в числе целей. Печально, поскольку даже с правильным целеполаганием создание, организация работы и совершенствование описанных алгоритмов являются очень непростыми задачами. Любая система подобного уровня сложности может быть построена лишь методом проб и ошибок. Если еще и пробовать «не в том месте», поиски конструктива могут затянуться очень надолго…

Алгоритмы машинного обучения являются надежным путем к дифференциации пользователей Сети. Но для создания механизмов созидательного использования выявленных компетенций никаких алгоритмов, никаких надежных и легких путей человечество еще не придумало. Здесь метод проб и ошибок царствует безраздельно. Это один из самых серьезных вызовов социальной инженерии: как именно нужно распорядиться накопленным потенциалом технологий и знаний, никто достоверно не знает.

Вебу 3.0 остаётся уповать на гибкость своей архитектуры, нацеленность на эксперименты, большое количество обратных связей и широкие возможности по масштабированию. Что будет работать, а что нет — может показать только практика. Архитекторам нового Веба остаётся совершенствовать инструментарий для более раннего выявления «ошибок», их анализа, исправления и быстрого распространения зарекомендовавших себя подходов.


Быстрое масштабирование требует развития некоторых критических технологий. Давайте опять вернемся к примеру ”Science Feedback”. Можем ли мы расширить продемонстрированный подход на другие темы?

Безусловно! Практически весь контент, затрагивающий вопросы, изучаемые наукой, можно подвергнуть такому же критическому анализу. Нужно лишь организовать сеть профильных специалистов. А механика процесса может быть скопирована легко и без особых изменений. Это демонстрирует и сам «Фэйсбук», распространивший проверку фактов на виральный контент, затрагивающий множество других тем.

Однако мы не зря отметили, что работа по структурированию знаний требует ресурсов. В нашем случае ресурс — это время, затрачиваемое 5-6 топовыми специалистами по климатологии на анализ публицистики. Их время стоит дорого. Компетенции, которыми они располагают, за это время могут быть использованы собственно на научные исследования — на добычу новых знаний, которые также будут полезны всему человечеству. Как определить, действительно ли разбор контента является лучшим применением их умений, чем научная работа?

Веб 3.0 должен уметь ответить на этот вопрос: в конце концов, формализация социальных отношений и в целом оценки социального прогресса являются сущностью его функционирования. Пока же вышеприведенное противоречие, как правило, разрешается в пользу науки. Именно поэтому работа ”Science Feedback” является скорее исключением, чем стандартом представления контента.

Но это противоречие заставляет искать и альтернативные пути его разрешения. По сути, задача экспертов — проверять соответствие контента научным фактам. А что, если мы привлечем к этому алгоритмы? Ведь уже сейчас они добиваются больших успехов в схожих задачах (правда, на научных текстах их еще не тренировали).

Точность (%) различных машинных моделей в определении ложной информации  для тренировочного датасете Fake News Challenge

Автоматизация работы по анализу и модерации контента — ключ к высвобождению столь ценного времени специалистов и достижению более эффективного баланса между научными и общественно-просветительскими задачами. Разумеется, поначалу она будет частичной — например, поиск и проверка информации в корпусе научных статей. Контекст построить алгоритмам пока тяжело (хотя в задаче обобщения информации прогресс есть). Для более широкого применения придётся развивать технологии обработки естественного языка (а также анализа изображений).

При достаточном уровне развития эти алгоритмы получают еще одно преимущество: они способны анализировать контент практически мгновенно после его публикации. Чтобы организовать экспертов, дождаться их отклика и скомпилировать ответ, требуется немало времени. А ведь оно является важным фактором при распространении информации в соцсетях. Чем раньше мы распознаем и классифицируем содержимое контента — тем актуальнее будет такой анализ.

В целом, такие технологии, которые сейчас объединяют под брендом «ИИ», должны стать главной организующей силой Веб 3.0. Практика показывает, что организовать интернет-пространство силами исключительно людей не получается. А новый Веб, будучи на порядки более сложной системой, потребует еще больше организационной работы. И машинам предстоит научиться тому, с чем не справляются люди.


Одна из бед, которые характерны для человеческого управления — субъективизм и спонтанность в принятии решений. Причем эти свойства не только препятствуют быстрому масштабированию механизмов, но и приводят к более серьезным системным проблемам.

И опять инициатива «Фэйсбука» даёт нам хорошую иллюстрацию. Помимо активистов, борющихся с глобальным потеплением, существуют и группы, отрицающие необходимость этой борьбы. Они не столь многочисленны — но решение «Фэйсбука» бороться с дезинформацией в области климатологии стало ударом в первую очередь по ним. И они справедливо решили, что нужно действовать в ответ.

В августе 2019 в издании ”Washington Examiner” была опубликована статья «The great failure of the climate models», критикующая точность используемых учеными климатических моделей. Статья успела собрать более 2 тысяч перепостов в «Фэйсбуке». В итоге ”Science Feedback” поставила ей худшую оценку: «очень низкая научная достоверность».


Справедливость восторжествовала? Ненадолго. Авторы статьи накатали гневное письмо в адрес аж самого Марка Цукерберга. Неизвестно, дошло ли оно до самого верха, но эффект возымело: через месяц спорную статью «Фэйсбук» переклассифицировал как «мнение», отвязал от нее анализ ”Science Feedback” и перестал занижать её рейтинг для показов.

Что с этим не так? Да практически всё. Начнем с того, что процесс апелляции чётко расписан, и «Фэйсбук» не имеет в нем никакой роли: спор разбирает та же независимая организация, что и вынесла первоначальный вердикт. Более того, является ли статья «ложью» или «мнением» - решает тоже НКО, а не «Фэйсбук».

Почему была проигнорирована стандартная процедура, поясняет хвастовство авторов статьи: оказывается, в дело вмешался некий сотрудник «Фэйсбука» консервативных взглядов. Мало того, его решение теперь является новым правилом: все статьи, атакующие мэйнстримную климатологию, отныне считаются «мнениями» и не нуждаются в проверке ”Science Feedback”.

Вот так человеческий фактор — причем достаточно одного-единственного человека — отправляет псу под хвост хорошо продуманную и работающую схему.


А теперь несколько очень серьезных (хоть и риторических) вопросов. По каким критериям контент признается «мнением»? Почему, как только контент признается «мнением», факты перестают иметь какое-либо значение? Почему у сотрудника «Фэйсбук» имеются полномочия менять оценку, которую могут давать только независимые организации? Как выглядит процедура апелляции непосредственно к администрации «Фэйсбук» и по каким принципам она рассматривается? Наконец, по каким принципам разрабатываются и утверждаются все эти правила, и как их можно улучшить?

Эти вопросы подводят нас к двум важнейшим темам Веб 3.0: прозрачности и контролю. Прозрачность прямо связана с уже упомянутой нами проблемой доверия. Стоит повторить, что степень доверия внутри отдельно взятой структуры прямо соотносится с её организационным потенциалом.

Пока Сеть представляет собой неизвестную, хаотичную мешанину кое-как функционирующих практик, пока разнонаправленные импульсы миллиардов её пользователей сливаются в белый шум, в котором невозможно ничего различить — у нее нет шансов достичь новых высот социального прогресса.


Пока все прячут друг от друга тонкости своей работы, а за этими тонкостями прячутся их собственные слабости и пороки — Сеть так и останется скверно сшитым лоскутным одеялом, будучи неспособной к интеграции отдельных частей в единое целое. А сила Сети — во множественности и тесноте её связей.

Основой Веб 3.0 является знание. Его объем и качество напрямую зависит от прозрачности системы. А от доступного знания, в свою очередь, зависит, насколько эффективно будет управляться система.

Однако любая общественная структура функционирует в чьих-либо интересах. И перед тем, как добиваться эффективности управления, разумно сначала очертить условия, которые способствуют достижению гармоничного и справедливого баланса интересов участников.


Оффлайн-практика показывает, что для достижения этого баланса в разработке правил и механизмов, регулирующих работу общества, должны принимать участие представители всех заинтересованных сторон. В нашем случае этими сторонами могут быть агенты знаний, платформа и собственно пользователи.

Конкретные процедуры выбора представителей или формирования группового мнения, обсуждения и поиска консенсуса также на первых порах могут быть заимствованы из оффлайна, с последующим усовершенствованием старым добрым методом проб и ошибок и распространением лучших практик. Это детали.

Важно, что этот подход означает дрейф платформ в сторону самоуправления сообществом. И это очень логично: управление в Сети должно основываться на сетевых методах, а не вертикально-иерархических. Кроме того, поскольку Веб 3.0 будет кибернетическим продолжением социальных отношений, мы вправе ожидать, что партисипативные механизмы, широко применяющиеся в нынешних оффлайновых социальных системах, будут столь же актуальны и в онлайн-пространстве.


И в то же время этот дрейф низводит нынешних хозяев платформ — начиная с того же Марка Цукерберга — до положения обслуживающего персонала. Из решителей судеб, к которым обращают свои просьбы рядовые граждане — в исполнителей их коллективной воли. Ибо для того, чтобы Сеть работала в интересах социального прогресса, амбиции миллиардеров должны уйти на третьи роли.

Сейчас функционирование Веба подчинено главным образом коммерческим интересам. Интернет — это стихия, ставшая для капитала родной. Он настолько глубоко и органично сросся с ней, что мы уже не можем представить себе другой порядок вещей.

Капитал вложил много сил и средств, чтобы вырастить технологии Сети до того уровня, где они находятся сегодня. И немало — в те технологии, которые станут ключевыми для Веб 3.0. Сеть стала такой, какая есть, благодаря капиталу. И она принадлежит ему по праву.

Но прогресс очень часто требует поступиться правами ради движения вперед.

И не менее часто старые системы яростно сопротивлялись потере своих привилегий. Вряд ли в нашем случае будет иначе. Капитализм — безжалостный и очень опасный противник.

Главные битвы в Веб 3.0 будут идти, конечно, не по фактам — а за контроль над этой важнейшей системой. Это борьба за власть. И она будет нелегкой. Помимо капитала, государство тоже крайне заинтересовано в подчинении себе нового Веба.


Глухой ропот общественного недовольства в отношении соцсетей — это дальние отголоски будущей борьбы. Но в этом ропоте пока больше неосознанного разочарования, чем призыва к конкретным преобразованиям.

Нынешние климатические «баттлы» лишь показывают, как просто старая система может растоптать совсем молодые ростки Веб 3.0, пока вся власть находится у нее. Однако это совсем не значит, что Веб обречен.

Как это ни парадоксально, но те корпорации, которые сейчас наиболее могущественны в веб-пространстве - «Фэйсбук», «Гугл», «Амазон» - вкладывают больше всего ресурсов в развитие технологий машинного обучения, критических для становления Веб 3.0. Плод их усилий - то, что сейчас позволяет им получать PROFIT – будет обращен против их же авторитарного господства и эксплуатации Сети.

Корпорации — это очень серьезная угроза для Веб 3.0 и одновременно его главная надежда. Они уже начинают создавать его механизмы, вряд ли подозревая, что новому Вебу предстоит опрокинуть их бизнес и переформатировать всю Сеть по новым правилам.

Корпорации недальновидны. Они мыслят категориями рынков и PROFIT’a, не умея мыслить категориями социального устройства. И для Веб 3.0 такая недальновидность спасительна. Сначала тебя не замечают…

...Потом над тобой смеются. Мы можем сколько угодно иронизировать по поводу мифологического восприятия «Фэйсбука» как «потерянного рая». Но эта подсознательная тяга людей к гармонии и открытости сыграет очень важную роль в привлечении их на сторону Веб 3.0.


Пускай рай — это миф, однако прогресс, как и борьба за него — более чем возможны.

Рай потерян навсегда. И для победы вместо присущих раю простоты и статичности мы должны стремиться к наращиванию сложности и динамичным изменениям. В этом сила нового Веба.

Капитализм преуспел в адаптации к изменяющимся условиям. Чтобы Веб 3.0 одержал верх, он должен овладеть еще более быстрыми механизмами изменений.

У него есть все шансы. Он — феномен нового цифрового мира, свободный от груза старых материальных ограничений и инерции.

Но главная сила инерции — в нас, людях.

И если мы хотим перемен, бессмысленно глухо роптать. Добиться чего-либо можно только одним способом: действовать!



Κυβέρνησος ἐσχατιαί / Горизонты управления
[Список статей цикла]

  1. Стать #хэштегом

  2. Титаны эпохи

  3. Их мир

  4. Виртуальная свобода

  5. "Если знаешь место боя..."

  6. Декомпиляция Матрицы

  7. Дочери офицеров против Исламского Халифата

  8. Как "Искренний голос" стал еще искреннее

  9. Уничтожая доверие

  10. Силы финансового притяжения

  11. "А зачем им деньги?.."

  12. Свет на дне колодца

  13. Кролики голосуют за Дарта Вейдера!

  14. Объединяй и властвуй

  15. Кто победит Катю Андрееву?

  16. Высшая ценность

  17. В погоне за устойчивостью

  18. Вавилонская Башня 2.0

  19. Размерность имеет значение!

  20. Знание победит

  21. Электронная Немезида

  22. Обреченный быть константой

  23. Инженерия человеческих душ



  24. Фактор страха

  25. Гипнотическая улыбка капитализма

  26. Утро, XXI век

  27. Баттлы по фактам в эпоху Веб 3.0

  28. Плод раздора, плод надежды


Tags: #хэштегом
Subscribe

  • Кризис недопроизводства - 2: борьба за климат

    Никогда такого не было — и вот опять! В Китае нарастает очередной рукотворный энергетический кризис. На этот раз к традиционным…

  • Кто придумает будущее?

    «...Но если потребители, инвесторы и остальные ослеплены блеском новых технологий или отмахиваются от хайпа и не могут увидеть картину…

  • Дерзкие иллюзии

    Новая модель «Теслы» за $ 25 000 – звучит очень заманчиво. Но то, как этот автомобиль сейчас обсуждается на уровне…

  • Post a new comment

    Error

    Anonymous comments are disabled in this journal

    default userpic

    Your IP address will be recorded 

  • 17 comments

  • Кризис недопроизводства - 2: борьба за климат

    Никогда такого не было — и вот опять! В Китае нарастает очередной рукотворный энергетический кризис. На этот раз к традиционным…

  • Кто придумает будущее?

    «...Но если потребители, инвесторы и остальные ослеплены блеском новых технологий или отмахиваются от хайпа и не могут увидеть картину…

  • Дерзкие иллюзии

    Новая модель «Теслы» за $ 25 000 – звучит очень заманчиво. Но то, как этот автомобиль сейчас обсуждается на уровне…