Появилась новая версия мошенничества с путешествиями, которое годами обманывало людей. Вот что вам нужно знать.
автор: Анализ Ширы Овиде
Алекс Ривлин, собираясь в отпуск в Европу, срочно выполнял поручение. Именно так он и попался на мошенничество с использованием искусственного интеллекта. Ривлину, владельцу агентства недвижимости в Лас-Вегасе, нужно было забронировать трансфер до круизного лайнера. Сидя за кухонным столом, он нашёл в Google номер службы поддержки клиентов круизной компании, пообщался с компетентным представителем и предоставил данные своей кредитной карты.
Ривлин рассказал, что номер, по которому он звонил, был выделен в «Обзорах ИИ» Google — ответах, сгенерированных искусственным интеллектом на некоторые поисковые запросы. На следующий день Ривлин увидел подозрительные списания с кредитной карты и понял, что его обманул мошенник из службы поддержки клиентов Royal Caribbean. Он столкнулся с очевидной версией искусственного интеллекта в классической афере, нацеленной на путешественников и других лиц, ищущих в Google телефоны служб поддержки авиакомпаний и других предприятий.
Число, которое Алекс Ривлин увидел в Google «Обзоре ИИ», оказалось мошенничеством. (Алекс Ривлин)
Я обнаружил, что тот же номер, по которому он звонил, выдавал себя за номер горячей линии другой круизной компании и появлялся в результатах поиска Google и ChatGPT.
Добро пожаловать в эпоху мошенничества с использованием искусственного интеллекта. Эксперты предупреждают, что старые методы мошенничества и спамерства, заполонившие интернет, социальные сети, электронную почту и текстовые сообщения, теперь также используются для манипулирования информацией, полученной с помощью искусственного интеллекта, и Ривлин входит в число первых жертв.
Я расскажу вам, как защититься от ситуаций, подобных той, что произошла с Ривлином, и что следует сделать таким компаниям, как Google, чтобы помешать мошенникам искажать данные ИИ.
Как мошенники обманули Ривлина и Google
Ривлин сказал мне, что поддельный номер службы поддержки клиентов и самозваный представитель были правдоподобны. Представитель знал стоимость и места посадки шаттлов Royal Caribbean в Венеции. Он убедительно объяснил Ривлину, что нужно платить определённые сборы и чаевые. Представитель предложил отказаться от платы за шаттл, и Ривлин согласился заплатить 768 долларов.
Ривлин сказал, что его с подозрением отнеслись к странностям, в том числе к незнакомому названию компании, которое было указано при оплате кредитной картой. Когда на следующий день было обнаружено два фиктивных списания средств с карты, Ривлин понял, что его обманули. Он заблокировал свою кредитную карту, и списания были отменены.
Ривлин в основном винит мошенников и себя в том, что они попались на удочку мошенников. Но я видел так много подобных уловок, направленных на пользователей Google, что, по сути, обвиняю компанию в недостаточной защите своего важнейшего канала доступа к информации. Так же поступили и два эксперта по внутренней работе Google. Вот как обычно работает мошенничество такого рода: мошенники пишут на сайтах с отзывами, досках объявлений и других сайтах, утверждая, что контролируемый ими номер принадлежит центру обслуживания клиентов компании. При поиске в Google его технология ищет подсказки к релевантной и достоверной информации, включая онлайн-советы. Если поддельные мошенниками цифры достаточно часто повторяются в интернете как реальные, Google может предлагать их пользователям, ищущим компании.
Google — орудие мошенников, и мы — их главные жертвы.
AI Overviews от Google и ChatGPT от OpenAI могут использовать те же подсказки, что и поисковая система Google, для выдачи информации, почерпнутой из интернета. Это делает их новыми ИИ-приспешниками для старых мошеннических схем с поддельными номерами.
«Манипулировать этими новыми поисковыми системами, используя методы 30-летней давности, — всё равно что стрелять в лёгкую добычу», — сказал Майк Блюменталь, аналитик Near Media, компании, занимающейся исследованием поведения потребителей при поиске. (Блюменталь рассказал мне о видео Ривлина в Facebook , где он делится своим опытом.) Мы с Блюменталем обнаружили, что Google и ChatGPT идентифицировали тот же номер, который обманул Ривлина, как номер службы поддержки клиентов других круизных компаний, включая Disney и линию Princess компаний Carnival.
Такое же число было выявлено в результатах поиска AI Overview по круизам Princess. (Майк Блюменталь)
Представитель Google в своем заявлении отметил, что обзоры ИИ и результаты веб-поиска эффективно направляют людей к официальной информации службы поддержки клиентов по распространенным типам поисковых запросов. Представитель компании заявил, что компания «приняла меры» в отношении нескольких выявленных мной примеров мошеннических номеров и что Google продолжает «работать над более масштабными улучшениями для решения более редких запросов, подобных этим».
Номер службы поддержки клиентов Royal Caribbean — 1-866-562-7625, который, по заявлению компании, указан на её сайтах, в приложениях и в счетах. Disney и Princess не ответили на мои вопросы.
OpenAI заявила, что многие веб-страницы, на которые ChatGPT ссылался с помощью поддельного номера круиза, по всей видимости, были удалены, и что обновление информации может занять некоторое время «после удаления оскорбительного контента из источника». (The Washington Post сотрудничает с OpenAI в области контента.)
Что вы и компании можете сделать, чтобы предотвратить это мошенничество
Будьте осторожны с номерами телефонов в результатах поиска Google или в чат-ботах. Ривлин рассказал, что искал номер службы поддержки клиентов Royal Caribbean в их приложении. Безрезультатно.
Почему Google облегчает жизнь мошенникам? Компания знает, что люди часто попадаются на уловки фальшивых номеров службы поддержки, найденных в результатах поиска.
По словам Лили Рэй, вице-президента по стратегии и исследованиям поисковой оптимизации в маркетинговой компании Amsive, было бы безопаснее, если бы Google не показывал обзоры ИИ, которые кажутся авторитетными «ответами» для поисковых запросов по бизнес-номерам.
«Разрешая ИИ-обзорам появляться в запросах по деловым телефонным номерам, они открывают новую возможность для мошенников, которую те, очевидно, уже используют в своих интересах», — написал Рэй в электронном письме.
Рэй и Блюменталь говорят, что у Google есть базы данных проверенной информации , в том числе и для предприятий, и что компания должна гарантировать, что поиск и результаты ИИ будут извлекать информацию только из них. Вернувшись домой на этой неделе после отличной поездки, Ривлин заявил, что следит за новыми фиктивными обвинениями или попытками кражи личных данных. И Ривлин хочет донести до людей, что даже хорошая осведомленность о мошенничестве и вера в искусственный интеллект не сделали его неуязвимым к мошенничеству с его помощью.
«Не могу поверить, что я на это купился», — сказал он. «Будьте осторожны».
источник: https://www.washingtonpost.com/technology/2025/08/15/google-ai-overviews-scam/