Когда я летел обратно из Лондона несколько недель назад, я провалился в кроличью нору, из которой с тех пор не выбирался. Я знал, сколько я заплатил за свое место, сколько миль я использовал, чтобы побаловать себя повышением класса обслуживания. Но я понятия не имел, потратила ли женщина через проход всего несколько баллов, как я, или заплатила более 10 000 долларов, которые авиакомпания могла бы взимать за ту же поездку. Бронирование рейса долгое время означало игру, в которой только авиакомпания знает правила, с бесчисленными кодами бронирования, программами лояльности и изменениями тарифов, которые используют ваши данные в качестве оружия против вашего кошелька. Но после того, как я приземлился, я продолжал видеть одну и ту же мошенническую игру повсюду: в каждой поездке Uber , каждом заказе Amazon, каждом походе в супермаркет. Все эти компании теперь знают обо мне так много, что видят мигающую цифру над моей головой: точную цену, которую я был бы готов заплатить в данный момент. Прямо сейчас над вашей головой мигает ваша собственная цифра.
В эпоху алгоритмов изменчивость цен все больше проникает в цифровую коммерцию, при этом тарифы растут и падают в режиме реального времени.
Что гораздо более тревожно, так это рост персонализированного ценообразования, практика цифровых ритейлеров использовать ваши собственные данные, чтобы взимать точную цену, которую вы готовы заплатить , которая может отличаться от той, которую заплатил бы парень рядом с вами. Персонализированное ценообразование не только порождает предвзятость и может привести к инфляции, но и создает мир, в котором вы никогда не знаете, когда ваши приложения вас обманывают.
Теперь, когда я собираюсь заплатить за что-либо с помощью своего телефона или ноутбука, я задумываюсь, не заплатил бы я меньше, если бы использовал чужой аккаунт.

Я до сих пор помню легкий шок, который я испытал десять лет назад, когда узнал, что ценовая дискриминация часто совершенно законна в Соединенных Штатах. На юридическом факультете мой преподаватель антимонопольного права познакомил нас с малоизвестным Законом Робинсона-Пэтмана о борьбе с дискриминацией времен Великой депрессии, быстро подчеркнув, что этот закон во многом не оправдывает своего названия. Согласно давнему закону, компании могут столкнуться с губительными штрафами за ценовую дискриминацию, только если они дискриминируют другие предприятия. Если оптовик завысил цену в магазине, магазин мог подать на это в суд, но тогда (или сейчас) не было ничего, что могло бы помешать магазину сделать то же самое со своими клиентами. То есть владельцы магазинов имеют большую ценовую защиту, чем их клиенты. Если магазин обычно взимает с некоторых клиентов больше, чем с других, из-за их пола, расы или других защищенных законом характеристик, это, безусловно, незаконно. Но когда компании хотят вытрясти из каждого клиента максимальную сумму, которую он готов заплатить индивидуально, они вольны заниматься грабежом на большой дороге.
Телефон, на котором показана аналитика, прикрепленная к пиксельной ценовой бирке

Даже в поляризованные времена карманные кражи с использованием искусственного интеллекта могут быть одной из тех редких проблем, которые могут объединить нас в возмущении. Тайлер Ле/BI

Я говорю о низкосортном шоке, потому что в то время персонализированная ценовая дискриминация была гораздо менее распространена и вредна, чем сегодня. Конечно, культура купонов позволяла компаниям продавать один и тот же продукт в одном и том же магазине в одно и то же время по разным ценам — но она давала клиентам свободу действий. Чувствительные к цене покупатели тратили время на поиски вырезок, а менее бережливые платили полную стоимость доставки. Купоны, карты лояльности, сезонные скидки — многие виды традиционной ценовой дискриминации позволяют отдельным покупателям выбирать, в какую ценовую группу они хотят попасть.

Но алгоритмическая ценовая дискриминация лишает вас этого выбора. А методы извлечения данных для сортировки людей по ценовым группам более инвазивны, чем вы можете себе представить. Возьмите вашу последнюю поездку Uber. Когда вы заказывали машину, вы, вероятно, знали, что расстояние, на которое вы едете, и время суток были ценовыми факторами, поскольку мы нехотя привыкли к холодной, извлекающей эффективности ценообразования всплесков. Но задумывались ли вы о том, чтобы подключить свой телефон перед заказом поездки? ​​Если бы вы это сделали, это могло бы сэкономить вам несколько долларов, потому что уровень заряда батареи, как утверждается, является одним из факторов, которые Uber использует для определения цены вашей поездки, обвинение, которое Uber решительно отрицает. Если обвинения против Uber верны, легко увидеть обоснование: те, у кого осталось меньше батареи, находятся в более отчаянном положении, а те, чьи телефоны находятся в нескольких минутах от разрядки, не колеблясь заплатят практически любую цену, чтобы получить машину, прежде чем они окажутся в затруднительном положении.
Как недавно подробно описал The American Prospect , этот тип индивидуального ценообразования распространяется практически во всех секторах экономики (стриминг, фастфуд и даже приложения для знакомств), и может быть удивительно, какие переменные заставят вас платить больше. В 2010-х годах розничные торговцы полагались на довольно грубые данные для идеального ценообразования. Клиенты могли бы заплатить больше за рейс, который они забронировали на Mac (по сравнению с ПК), или заплатить более высокую ставку за подготовку к тесту в почтовых индексах с более крупными азиатскими общинами . Но в последние годы компании перешли от ценовой дискриминации на уровне района к индивидуальному ценообразованию.
Ритейлеры, такие как Amazon, знают так много о том, что вы покупаете, как на их платформе, так и за ее пределами. И у вас нет возможности узнать, когда ваш выбор меняет то, что вы платите. В 2018 году главной новостью стало то, что Amazon корректировала цены 2,5 миллиона раз в день . Учитывая рост Amazon и развитие ИИ, сегодня это число, вероятно, на порядок выше. Для ритейлеров, таких как Walmart, недостаточно использовать нашу историю покупок. В феврале этот гигант розничной торговли согласился купить производителя смарт-телевизоров Vizio более чем за 2 миллиарда долларов, что потенциально дало Walmart неожиданный доход от личных данных потребителей. Смарт-телевизоры не только отслеживают то, что мы смотрим, с точностью Оруэлла, но и отслеживают другие устройства поблизости с помощью ультразвуковых маяков и даже могут прослушивать то, что мы говорим в уединении наших собственных домов. В частности, Vizio была оштрафована на миллионы долларов за обвинения в незаконной слежке за покупателями.
Розничные торговцы не только знают, что вы купили и сколько денег вы зарабатываете, но зачастую они еще и знают, где вы находитесь, как проходит ваш день и какое у вас настроение. Все это может быть аккуратно синтезировано нейронными сетями искусственного интеллекта, чтобы рассчитать, сколько вы заплатили бы за определенный товар в данный момент.

Ваш возраст, пол и сексуальная ориентация могут повлиять на то, какую сумму ИИ решит, что вам придется заплатить за любовь.

Ни одна сфера коммерции не является слишком личной, чтобы быть закрытой. Приложения для знакомств собирают данные о нашей романтической жизни, но некоторые открыто хвастаются этим, чтобы увеличить прибыльность. И многие из тех, кто не раскрывает использование персонализированных цен, все равно делают это. Tinder редко говорит о своей технологии ценообразования, но Mozilla и Consumers International недавно обнаружили, что приложение для знакомств использовало десятки переменных, чтобы радикально скорректировать цены для пользователей. Ваш возраст, пол и сексуальная ориентация могут определять, сколько ИИ решит, что вам нужно заплатить за любовь.

Если не контролировать персонализированное ценообразование, оно будет иметь пагубные последствия для всего общества. Николас Гуггенбергер, доцент юридического центра Университета Хьюстона, говорит, что «скрытая алгоритмическая ценовая дискриминация может подорвать общественное доверие к механизмам ценообразования и, таким образом, подорвать рынок». Ценообразование на основе искусственного интеллекта также означает, что те, кто находится в самом отчаянном положении и наиболее уязвим, часто будут платить больше всех. Хуже того, людей могут наказывать из-за их расы, возраста или класса. Возьмем обвинение в аккумуляторе телефона. Пожилые люди более чем в два раза чаще, чем молодые пользователи, имеют телефон, которому не менее трех лет. Поскольку старые смартфоны, как правило, имеют более короткий срок службы батареи, пожилые люди могут в конечном итоге платить больше, чем молодые, за те же поездки в Uber.
«Алгоритмическая ценовая дискриминация может по сути автоматизировать ростовщичество», — говорит Гуггенбергер. «Если ваша батарея скоро разрядится, а вы за городом, приложение для совместных поездок может существенно поднять вашу «персонализированную цену»».
Так много цен на основе ИИ действует как регрессивный налог, взимая с тех, у кого больше всего, меньше всего. У людей в районах с недостаточным обслуживанием, с меньшим количеством магазинов, меньшим количеством альтернатив часто нет выбора, кроме как нажать «купить сейчас», даже когда это больно. Как сказала профессор права и наблюдатель за потребителями Зефир Тичаут изданию The American Prospect, мы не должны думать об этой практике как о чем-то столь безобидном, как персонализированное ценообразование — вместо этого она называет это ценообразованием наблюдения.
Мы знаем, как доказать человеческую дискриминацию. Если магазин в районе с преобладанием черного населения взимает больше, чем его аналог в районе с преобладанием белого населения, тестировщики могут пойти в каждый магазин, записать цены и подать иск. Такого рода тестирование было основой защиты прав потребителей большую часть столетия. Но как доказать, что алгоритм дискриминирует? Нет магазинов, которые можно посетить, нет ценников, которые можно сравнить, только миллионы экранов, разбросанных по карманам людей. Результатом может стать уловка-22, когда вы можете получить достаточно данных, чтобы доказать дискриминацию, только подав в суд на компанию, но вы не можете подать в суд на компанию, не имея сначала данных. Мы могли бы увидеть рост извращенного, странного юридического мира, где компании, использующие предвзятый ИИ для тайной корректировки цен, сталкиваются с меньшим юридическим контролем, чем традиционные магазины.
Я надеюсь, что эта ситуация настолько мрачна, а потенциал для злоупотреблений настолько очевиден, что даже наша неблагополучная демократия не примет ее. Наши законодатели так медленно обуздали вред новых технологий, даже когда стало ясно, например, что они подрывают нашу демократию. Но даже в эти поляризованные времена карманные кражи с использованием ИИ могут стать одной из тех редких проблем, которые могут объединить нас в возмущении.

Альберт Фокс Кан — основатель и исполнительный директор проекта Surveillance Technology Oversight Project (STOP), нью-йоркской группы по защите гражданских прав и конфиденциальности.

О дискурсивных историях

С помощью нашей журналистики Discourse, Business Insider стремится исследовать и освещать самые захватывающие вопросы и идеи дня. Наши авторы предлагают заставляющие задуматься перспективы, основанные на анализе, репортажах и экспертизе. Читайте больше историй Discourse здесь .

фото: Персонализированное ценообразование не только порождает предвзятость и может привести к инфляции, но и создает мир, в котором вы никогда не узнаете, когда ваши приложения вас обманывают. Тайлер Ле/BI

Автор: Альберт Фокс Кан. 9 июля 2024 г., 9:52 UTC

Источник: