giovanni1313 (giovanni1313) wrote,
giovanni1313
giovanni1313

Categories:

ИИ, общество, политика

Продолжаем знакомиться с отчетом о состоянии дел в области искусственного интеллекта ”AI100”. Один из разделов публикации посвящен отношению широкой публики к ИИ и общественной политике в этой сфере. Очень близкие мне темы, и освещены они очень неплохо. Давайте познакомимся с мнением авторов:

Со времен первого отчета ”AI100” понимание [темы ИИ] публикой распространилось шире и обогатилось нюансами, начав отходить от «Терминатора» и страхов о роботах-повелителях. Для многих членов общества над этими тревогами стали преобладать социальные и экономические эффекты ИИ, особенно негативные эффекты: дискриминационные, экономическое неравенство, а также замещение рабочей силы и ее эксплуатация […]. Вдобавок, широко обсуждаются увеличивающиеся риски слежки, а также то, каким образом ИИ и социальные медиа вовлечены в манипуляцию и дезинформацию.
[…]


Осведомленность публики о выгодах ИИ смещена в сторону ожидаемых прорывов в таких областях, как здравоохранение и транспорт, с относительно меньшей осведомленностью о существующих выгодах ИИ, встроенного в уже широко используемые приложения. […] Публика меньше осведомлена о причастности ИИ к повседневным технологиям, которые обычно доступны без посредничества искусственного агента: выгоды вроде преобразования речи в текст, перевода между языками, интерактивной GPS-навигации, веб-поиска и фильтрации спама. Освещение ИИ в медиа часто искажает и преувеличивает его потенциал на обоих полюсах оценок: и положительных, и отрицательных. Но это помогло увеличить осведомленность публики о правомерных тревогах по поводу предубеждений у ИИ, недостатка прозрачности и ответственности и потенциала автоматизации, движимой ИИ, внести свой вклад в рост неравенства.

Существуют заметные региональные и гендерные различия в отношении публики к ИИ, показало исследование Pew в 2020: в азиатских странах мнения в основном позитивные, в то время как для стран Запада они очень противоречивы и более скептические. […] Исследование 2019 года от центра надзора над ИИ в Оксфордском Институте Будущего Человечества отметило, что положительное отношение к ИИ больше распространено среди тех, кто «богат, образован, имеет мужской пол или же знаком с технологиями».
[...]

Правительства, университеты и некоммерческие организации пытаются расширить охват образования в области ИИ, в том числе инвестируя в новые учебные программы, связанные с ИИ. Группы вроде AI4ALL и AI4K12 получают всё больше внимания [...]

Риторика, окружающая «гонку» ИИ между США и Китаем, представляет инвестиции в и понимание ИИ в качестве неотложного вопроса национальной безопасности. Это внимание также вносит свой вклад в расхождение между фокусом ЕС на надзоре за ИИ и защитой прав человека, и фокусом США и Англии на экономическом росте и нацбезопасности. В дополнение к нарративу о «гонке ИИ» существуют дискурсы об ИИ, вовлеченном в соперничество с нулевой суммой или битву с людьми за доминирование. Однако эти трактовки одновременно скрывают мощную деятельность людей, которая сегодня составляет то, что мы называем «ИИ», и питает опасную иллюзию технологического детерминизма — ложного тезиса о том, что новые технологии вроде ИИ видоизменяют общество вне зависимости от человеческого выбора и ценностей, таким образом, который люди не в состоянии контролировать, изменить или повернуть.
[…]

[ИТ-]отрасль, технологические «евангелисты» и регулирующие органы являются еще одним источником общественной информации об ИИ. Большинство их сообщений касается продвижения нарративов «ИИ для блага» и «ответственный/этичный ИИ», хотя эти сообщения вызывают некоторую озабоченность по поводу «этического камуфляжа» (ethics-washing) или неискреннего корпоративного использования этических трактовок, чтобы отразить регуляторную или общественную критику. […]

ИИ-сообщество может взять урок у климатологического сообщества в том, как улучшить охват общества. Как и многие ученые, климатологи изначально воздерживались от контакта со сторонней публикой, вроде государственных деятелей или СМИ. Но со временем стало ясно, что такой контакт был необходим, чтобы достичь прогресса по одним из самых неотложных вопросов нашего времени — и, на протяжении примерно последнего десятилетия, эти ученые сделали гигантские шаги по работе с публикой.


Похожая трансформации в области ИИ была бы благотворной в то время, как общество преодолевает последствия этих технологий. […] Но остается вызов: определить, какие форматы контактов с обществом работают — а также кого еще мы не охватили.

Чтобы помочь сфокусировать взаимоотношения с обществом, ИИ-сообщество должно способствовать более четкому общественному пониманию, которое уменьшит путаницу между ИИ и другими информационными технологиями без искусственного отделения ИИ от других технологических и платформенных структур, которые сильно влияют на его разработку и внедрение. Мы должны помочь обществу овладеть полезной таксономией ИИ, которая будет поддерживать их в определении важных отличий между очень разным типами и направлениями использования ИИ-инструментов. Также мы должны быть очень ясны и последовательны в том, что, в то время как мы верим в то, что в ИИ-технологиях идёт прогресс и он может принести огромную пользу для общества, мы не поддерживаем сбивающий с толку хайп, который звучит так, словно только что сделанный прорыв таков, что всё изменит.

Мы должны ответственно образовывать публику по поводу ИИ, объясняя, что разные сообщества и подгруппы подвержены очень разным рискам от ИИ, имеют разные общественные ожидания и приоритеты и приобретут либо потеряют от ИИ гораздо больше, чем другие группы. Наши усилия по обучению общества должны справляться с вызовами предоставления публике точной, сбалансированной информации, но не претендуя на то, что можно предложить какой-то единственный объективный, неангажированный и нейтральный взгляд на ИИ.

Самое важное, мы должны продвинуться от цели обучать или говорить на публику в сторону большего соучастия во взаимодействии и разговорах с публикой. […] Подобные усилия будут жизненно важными для повышения общественного интереса и возможностей демократического участия в вопросах ИИ, которые вызывают тревогу у всех нас.“
______________________________________________________

Тезисы, высказанные в конце отрывка, заслуживают отдельного комментария. Начнем с отсылки к опыту климатологов. Действительно, климатический активизм и климатическая политика стали феноменом беспрецедентной силы и охвата. Пожалуй, впервые в истории научная сфера стала главным архитектором при формировании глобальной политики, подчинив единой цели многочисленные национальные правительства и международные органы.

Да, это случилось во многом благодаря характеру проблемы: климатологам удалось добиться восприятия её как экзистенциальной угрозы всепланетного масштаба, что и подтолкнуло власти к согласованным действиям. Но это не отменяет новой реальности в политическом раскладе сил, где наука заняла гораздо более важное место. И где она стала очень сильно влиять на принятие стратегических решений.


Эта новая политическая реальность, новая модель авторам “AI100” кажется очень привлекательной, и они хотят дальше ее расширять. Пробуя обойтись без чрезмерного алармизма, опираясь уже не на чувства, а на разум. Алармизм по отношению к ИИ действительно неуместен — и при этом искусственный интеллект, как и в целом алгоритмизация и дигитализация жизни общества, является гораздо более важной, буквально поворотной технологией. Которая в недалеком будущем гораздо существеннее, нежели климатические изменения, повлияет на жизнь каждого.

Именно поэтому политические воззрения вроде «поиска врагов» и «гонок» в сфере ИИ глупы и даже опасны. Рассматривая ИИ лишь как инструмент для раздувания своих политических амбиций и пиара, власти игнорируют реальные подрывные изменения в своём же обществе под влиянием новой технологии. Изменения, на которых и должно быть сосредоточено их внимание.

Если все могут согласиться с тем, что нам нужно как можно меньше политики в науке, то что насчет обратного? Нужно ли нам больше науки в политике? Я склоняюсь, что да. И опыт климатологии, и описанные здесь предложения экспертов по ИИ говорят о новом, более осмысленном и плодотворном формате общественного диалога. О просвещении и поиске разумного консенсуса. Это сложные и неочевидные механизмы — возьмем хотя бы общественный диалог по теме коронавируса и вакцинации. Но сложные проблемы редко имеют простые решения.

При этом наше общество само по себе тоже продолжает усложняться. Следовательно, растет и потребность в рациональных, тщательно продуманных решениях. Наука — это именно та сфера, которая опирается исключительно на рациональность и служит только ей. И в этом плане растущая политическая роль науки является закономерной.

Однако теория так и останется теорией, если не проявлять инициативу. Особенно справедливо это для политической сферы. Предложения от экспертов “AI100” являются неплохим пробным шаром на этом пути.

_______________________________________________________________
Друзья, я начал вести канал в Телеграм: Экономика знаний. Подписывайтесь!
Tags: ИИ, институты, наука, политика
Subscribe

  • Десятилетия ярких побед

    Специальный проект Стэнфордского университета, “AI100”, выпустил свежий отчет о нынешнем состоянии дел в сфере искусственного…

  • Кто придумает будущее?

    «...Но если потребители, инвесторы и остальные ослеплены блеском новых технологий или отмахиваются от хайпа и не могут увидеть картину…

  • Дерзкие иллюзии

    Новая модель «Теслы» за $ 25 000 – звучит очень заманчиво. Но то, как этот автомобиль сейчас обсуждается на уровне…

  • Post a new comment

    Error

    Anonymous comments are disabled in this journal

    default userpic

    Your IP address will be recorded 

  • 2 comments