giovanni1313 (giovanni1313) wrote,
giovanni1313
giovanni1313

Categories:

Вооруженная провокация


“Робот не может причинить вред человеку“, - вывел первый закон робототехники Айзек Азимов. Азимова не восприняли всерьез.

“Начинать гонку вооружений в ИИ — плохая идея, которую нужно исключить путем запрета на автономное наступательное оружие...“ - предупреждали тысячи ученых со всей планеты. Ученых никто не стал слушать.

“Пожалуйста, поддержите нашу инициативу по запрету полностью автономного вооружения, пока не стало слишком поздно“, - взывали к разуму высокопоставленные дипломаты. Военные приказали дипломатам отойти в сторонку и не отсвечивать.

И что нам еще остается? Нам остаётся продолжать точить по капле камень — других вариантов нет. Недавняя провокационная акция компании «MSCHF» с этой точки зрения ничуть не хуже, чем научно-фантастическая проза и официальные письма с именитыми подписантами.


«MSCHF» - очень необычная нью-йоркская контора, сочетающая в себе черты хулиганской арт-группы и бизнеса по продаже меметичных сувениров. В своей работе ребята делают ставку на дерзкую креативность и виральное продвижение. На этот раз «MSCHF» решила замахнуться на что-то более существенное, чем мемасики для TikTok-аудитории. Они собрались вооружить четвероногого робота ”Spot” и дать случайным людям из интернетов пару минут поуправлять машиной.

В конце концов, чем они хуже «Бостон Дайнэмикс»? Если уж у производителя продвинутых роботов получается делать виральные ролики, то профессиональным креативщикам для этого даже не надо особо напрягаться. Главное — вместо политкорректных робо-танцев и робо-паркура привлечь внимание публики к куда более неоднозначному направлению использования машин.

Ах да, нюанс: установленным на спине ”Spot” оружием был пэйнтбольный маркер. Всё-таки это должен был быть арт-перформанс, а не испытания на военном полигоне. Но использование «нелетального» оружия — прозрачный намек на неискренность силовиков, всячески стремящихся успокоить публику по поводу реального предназначения и способностей своих автономных разработок.


В насыщенном сарказмом манифесте, опубликованном «MSCHF» в преддверии акции, подобных намеков и нюансов очень много: «Любому в этом мире достаточно взглянуть на милого малыша «Спота», чтобы понять: эта штука определенно будет использоваться полицией и военными для того, чтобы убивать людей. А что есть у полиции? Сильные профсоюзы! «Спот» - работник месяца. Ты никогда не столкнешься с проблемой профсоюза в случае роботов — зато робот может создать проблемы твоему профсоюзу».

Производитель «Спота», «Бостон Дайнэмикс» был в ужасе от перспектив такого пиара. Кому захочется, чтобы его технику ассоциировали с машинами-убийцами? «Бостон Дайнэмикс» попытался соблазнить арт-хулиганов подарком в виде еще двух «Спотов», лишь бы те отказались от своего перформанса. Но арт-хулиганы от подарка стоимостью 150 тыс. долларов отказались: идея превыше всего.

Скрипя зубами, производитель написал строгий пресс-релиз, в котором порицал «изображение нашей технологии в любом виде, который продвигает насилие», клялся, что «удивительно способные роботы <...> позитивно влияют на общество», и прятался за свои Условия использования, где черным по белому прописан первый закон робототехники Азимова. Стало быть, «MSCHF» задумал гнусную провокацию, за которую стыдно должно быть им.

И хотя «Бостон Дайнэмикс» не должно быть стыдно, они предпочли стыдливо умолчать о том, что компания готова поставлять роботов армии и полиции — последний получивший огласку факт такого сотрудничества был в ноябре 2019. Как и о том, что ранее «Бостон Дайнэмикс» получил от оборонных ведомств 150 млн. долларов на НИОКР. Как и о том, что подобные роботы от компаний с более либеральными Условиями использования специально создаются под военные нужды.

В центре фото не «Спот», а ”Vision 60” от конкурирующего производителя. Две фигуры слева следят за позитивностью влияния на общество.

Инженеры «MSCHF» всерьез опасались, что производитель задействует гипотетический «удаленный выключатель», чтобы предотвратить перформанс. С точки зрения Условий использования было не подкопаться — чистое искусство, никакого насилия. Но ущерб для имиджа был бы нешуточный.

Если в киноиде и был такой выключатель, «Бостон Дайнэмикс» предпочел его не раскрывать. В назначенное время "Cпот" был помещен в специально подготовленную комнату с минималистичным дизайном, уставленную статуями и предыдущими творениями «MSCHF». После чего счастливчики, заранее скачавшие на смартфон приложение компании, получили шанс управлять роботом с видом «от первого лица».

Хайлайты перформанса можно посмотреть на стильном, выполненном в багрово-черной цветовой гамме сайте проекта. Они включают мелко семенящего «Спота», топтание робота на разбитой статуэтке младенца, испачканную краской Венеру Милосскую и много, много падений киноида.

Кадры трудно назвать сногсшибательными. В конце концов, за вирусными роликами «Бостон Дайнэмикс» стоят тысячи часов работы талантливых инженеров; у «MSCHF» в активе только дерзкая идея. От голой идеи трудно добиться «вау-эффекта». Особенно если эта идея — правильная.

Но в то же время перформанс «MSCHF» гораздо честнее, чем известные CGI-видеоролики с тем же месседжем, вроде этого:


Если там создатели пытаются дать зрителю картинку из будущего, то «MSCHF» показывает возможности настоящего, доступные даже непрофессионалам. И настоящее пугает. Тем, что для создания боевых роботов не нужна продвинутая кинематика, идеальная балансировка и высокая скорость реакции. Достаточно путающегося в своих четырех ногах киноида и приложения в смартфоне.

И «MSCHF» даёт это почувствовать каждому, взявшему управление роботом на себя. Интерактивность — важная часть перформанса, которую нелегко передать на видео. Это не CGI. Не научная фантастика, в области визуализации далеко шагнувшая вперед со времен Азимова. Это реальность, в которой ты управляешь вооруженной машиной. И только тот факт, что пушка — пэйнтбольная, напоминает о том, что ты действуешь «понарошку», на стыке развлечения, искусства и гражданского активизма.

Это вполне осязаемый итог демократизации робототехники и коммуникационных технологий. Роботы стали доступнее — в том числе и для использования в целях насилия. И ты можешь убедиться в этом собственноручно.


«Это удивительно похоже на видеоигру», - делятся впечатлениями операторы «Спота». И в этом заключается важная проблема с роботами-убийцами: они помещают еще один уровень опосредованности между субъектом и объектом насилия, отдаляют их друг от друга. Обходят психологические барьеры. Делают насилие более абстрактным. Безответственным. И, следовательно, более приемлемым.

Единственная вещь, которая пока сдерживает эту лавину — не наивная фантастика, не позиция ученых и уж точно не протестный активизм. А всё еще скромные способности машин. «Честно говоря, он больше ничего не умеет, кроме как ходить», - говорит о «Споте» Дэниэл Гринберг, занимавшийся проектом в «MSCHF». Да и ходит «Спот» не слишком уверенно — перформанс пришлось закончить, когда киноид в очередной раз потерял равновесие и так и не смог подняться.

Солдаты из плоти и крови пока гораздо надежнее и эффективнее роботов. Тем не менее, баланс постепенно меняется в пользу машин. Нам стоит задуматься о будущем.

В конечном итоге, то, насколько позитивно роботы будут влиять на общество, зависит не от ловкости риторики корпоративных пиар-служб — между этикой и профитом корпорации чаще выбирают профит. Будущее роботов — совместное будущее роботов и человечества — зависит от того, какие роли машин общество будет считать социально неприемлемыми.

Роль убийц должна, обязана быть в этом списке. Но для этого надо продолжать точить по капле камень архаичной милитаристской логики, доставшейся нам в наследство от наших первобытных предков. И надеяться, что мы добьёмся своего раньше, чем баланс способностей между людьми и машинами окончательно повернется в пользу последних.


_______________________________________________________________
Друзья, я начал вести канал в Телеграм: Экономика знаний. Подписывайтесь!
Tags: война, роботизация, социодинамика, технологии
Subscribe

  • 2 цента за юную душу

    Интересны ли вашим детям-подросткам алкоголь, сигареты или вэйпинг? Не факт, что вы знаете это наверняка. А вот «Фэйсбук» знает эту…

  • Роботы отберут ваши рабочие места. И это прекрасно.

    « Сейчас автоматизация стала более приемлемой политически», - говорит Рауль Вега, гендиректор «Auxis», фирмы, помогающей…

  • "Будущее работы после COVID-19"

    Продолжаем знакомиться с долгосрочными трендами рынка труда. Пару месяцев назад мы рассматривали выводы доклада "Будущее рабочих мест…

  • Post a new comment

    Error

    Anonymous comments are disabled in this journal

    default userpic

    Your IP address will be recorded 

  • 18 comments

  • 2 цента за юную душу

    Интересны ли вашим детям-подросткам алкоголь, сигареты или вэйпинг? Не факт, что вы знаете это наверняка. А вот «Фэйсбук» знает эту…

  • Роботы отберут ваши рабочие места. И это прекрасно.

    « Сейчас автоматизация стала более приемлемой политически», - говорит Рауль Вега, гендиректор «Auxis», фирмы, помогающей…

  • "Будущее работы после COVID-19"

    Продолжаем знакомиться с долгосрочными трендами рынка труда. Пару месяцев назад мы рассматривали выводы доклада "Будущее рабочих мест…