giovanni1313 (giovanni1313) wrote,
giovanni1313
giovanni1313

Алгоритмы-заговорщики

Современные рынки настолько широки, сложны и динамичны, что управление ценами во многих случаях отдаётся алгоритмам. Они в состоянии в режиме реального времени отслеживать цены конкурентов, прогнозировать ситуацию в будущем, рассчитывать оптимальные цены и моментально их обновлять.

Ничего личного — просто бизнес. Алгоритм гораздо лучше справляется с поиском цены, которая максимизирует потенциальную прибыль предприятия. Когда-то такие алгоритмы писались исключительно вручную. Теперь у предприятий есть более эффективный инструмент — машинное обучение. Оно позволяет создавать гораздо более сложные, гибкие и прибыльные ценовые алгоритмы.

Но у этих преимуществ есть и обратная сторона. Дело в том, что рынок функционирует эффективно, когда на обеих сторонах — спроса и предложения — работает конкуренция. В противном случае, когда существует монополия или картельный сговор, сторона предложения может искажать рыночные принципы. Максимизация прибыли здесь достигается за счет ущерба потребителям.

Пока цены устанавливали люди — и даже пока ценовые алгоритмы писались вручную — картельный сговор было организовать непросто. Требовались длительные тайные переговоры между несколькими участниками. Если один из участников спонтанно решал нарушить общие правила игры — вся схема рушилась. И, разумеется, если информация о картельном сговоре просочилась бы наружу, всех участников ждали бы огромные штрафы со стороны антимонопольных органов.

Всё меняется с приходом машинного обучения. Как пишут авторы исследования, опубликованного в ”Science”, в процессе обучения алгоритмы способны «самостоятельно» понять, что картельный сговор гарантирует максимизацию прибыли. И вместо конкуренции использовать вместе с алгоритмами других организаций тактики, аналогичные сговору. Совершенно без какого-либо участия или злого умысла со стороны людей, разрабатывающих такие алгоритмы! Достаточно просто наборов данных о ценах, которые используются для обучения.

Другими словами, алгоритмы становятся настолько сложными и гибкими, что впору называть их хитрыми.

Более того, поскольку нарушение «сговора» не зависит от прихотей того или иного человеческого босса, антиконкурентное поведение групп алгоритмов является гораздо более надежной тактикой. Добавим, что нынешние антимонопольные органы не имеют совершенно никакого опыта в регулировании алгоритмов. Сложность и динамичность рынков, постоянные изменения цен делают отслеживание такого поведения чрезвычайно трудной задачей.

И даже если подобные факты найдены, в законодательстве не предусмотрено никаких мер. Умысел руководства компании? Его нет. Переговоры с конкурентами? Их тоже никогда не было. По сути, даже найти юридический состав правонарушения сейчас невозможно.

Сами машинные модели являются «черными ящиками»: невозможно аналитическим путем исследовать алгоритм и увидеть, что он работает «неправильно». Этого не могут сделать ни антимонопольные органы, ни даже сам разработчик.
Как же бороться с таким поведением? Исследователи предлагают в качестве основного средства интенсивное тестирование алгоритмов «в песочнице» и анализ больших данных по фактическому рыночному поведению. Большие данные «порождают» эти алгоритмы — большие данные должны использоваться и для их контроля.

Разумеется, это означает, что алгоритмы должны быть гораздо более открытыми, чем сейчас. Как минимум для надзорных органов.

Проблемы ценовых алгоритмов и пути их решения — отличная иллюстрация к вопросу об алгоритмических решениях в нашей жизни. Стоит еще раз подчеркнуть, что прозрачность, институты независимого контроля и тестирование являются очень важными элементами разрешения конфликта интересов.

Именно конфликт интересов — а не алгоритмы как таковые — является источником проблем в этой иллюстрации. Желание продавцов получить больше прибыли за счет потребителей. И незнание, непонимание до конца систем принятия решений.

Пока описанное поведение алгоритмов является лишь гипотетической возможностью. Исследователи доказали, что таким тактикам можно научиться спонтанно. Но для того, чтобы «сговор» алгоритмов не стал преобладающим феноменом на реальных рынках, антимонопольным органам надо уже сейчас пересматривать и нормативную базу, и механизмы мониторинга рынков.


_______________________________________________________________
Друзья, я начал вести канал в Телеграм: Экономика знаний. Подписывайтесь!
Tags: ИИ, интернет, технологии, экономика
Subscribe

  • Дерзкие иллюзии

    Новая модель «Теслы» за $ 25 000 – звучит очень заманчиво. Но то, как этот автомобиль сейчас обсуждается на уровне…

  • Экспроприация с моральным превосходством

    Вдогонку к посту о высоких стандартах социалистической цензуры культуры — история, прекрасно дополняющая картину…

  • Страх и ненависть в Пекине

    Борьба Коммунистической Партии с технологическими компаниями пока только усиливается. На днях последние слили «Ройтерс» подробности об…

  • Post a new comment

    Error

    Anonymous comments are disabled in this journal

    default userpic

    Your IP address will be recorded 

  • 9 comments