Алгоритм TikTok продолжает подталкивать к самоубийству уязвимых детей. Суперпопулярное приложение может вызвать у подростков волну беспокойства и отчаяния. TikTok говорит, что добивается улучшений, но теперь сталкивается с потоком судебных исков после многочисленных смертей.

By Olivia Carville. April 20, 2023, 4:01 AM UTC

Алгоритм TikTok не знает, что Чейз Наска мертв.
Более года спустя после того, как Наска покончил с собой в возрасте 16 лет, его аккаунт остается активным. Просмотрите его ленту «Для вас», и вы увидите бесконечный поток роликов о неразделенной любви, безнадежности, боли и о том, что многие посты прославляют как окончательное спасение: самоубийство.
“ Забери эту боль. Смерть — это подарок”, — говорится в одном видео, размещенном в аккаунте в феврале этого года, за несколько дней до первой годовщины смерти Наски. В другом мужской голос говорит: “Я собираюсь засунуть дробовик себе в рот и вышибить мозги из затылка”, а женский голос отвечает: “Круто”.
Лента выглядела почти так же, как и за несколько дней до смерти Наски. 13 февраля 2022 года появилось видео приближающегося поезда с подписью “немного прогулялся, чтобы проветрить голову”. Пять дней спустя Наска остановился на железнодорожных путях Лонг-Айленда, которые проходят через деревушку Бейпорт, штат Нью-Йорк, примерно в полумиле от его дома. Он прислонил велосипед к забору и ступил на дорожку, на слепом повороте, о котором родители предупреждали его с тех пор, как он стал достаточно взрослым, чтобы ходить. Он отправил сообщение другу: “Мне жаль. Я больше не могу этого выносить.” Поезд скрылся за поворотом, и он исчез.
Невозможно понять, почему Наска покончил с собой. Часто к самоубийству приводит множество факторов, и он не оставил никакой записки. Но через две недели после его смерти его мать Мишель начала искать его аккаунты в социальных сетях, отчаянно нуждаясь в ответах. Когда она открыла приложение TikTok на его iPad, то обнаружила библиотеку из более чем 3000 видеороликов, которые ее сын добавил в закладки, поставил лайк, сохранил или пометил как избранные. Она могла видеть термины, которые он искал: Бэтмен, баскетбол, тяжелая атлетика, мотивационные речи. И она могла видеть, что принес ему алгоритм: множество видеороликов о депрессии, безнадежности и смерти.

С тех пор как TikTok ворвался в популярную культуру в 2018 году, люди пытаются понять короткометражную видеоплатформу и ее влияние на детей. Принадлежащее китайской интернет-компании ByteDance Ltd., приложение достигло 1 миллиарда загрузок быстрее, чем любой предыдущий продукт социальных сетей. Его успех проистекает из его липкости. Алгоритм, лежащий в основе механизма рекомендаций, создает карусель захватывающего пользовательского контента, чтобы люди не отрывались от своих экранов. TikTok стал настолько популярным — по данным компании, им пользуются 150 миллионов американцев, — что конкуренты из Силиконовой долины пытаются ему подражать. И политики разжигают опасения, что это может быть использовано китайским правительством в качестве инструмента дезинформации. В марте администрация Байдена пригрозила запретить приложение — что также пригрозила сделать администрация Трампа, — если ByteDance не продаст свою долю.
По мере продолжения политических дебатов исследователи и детские психологи наблюдают за происходящим с растущей тревогой. Опросы подростков выявили корреляцию между социальными сетями и депрессией, членовредительством и самоубийством. Данные Центров по контролю и профилактике заболеваний показывают, что почти каждый четвертый подросток заявил, что всерьез подумывал о самоубийстве в 2021 году, что почти вдвое больше, чем десятилетием ранее. Американская психологическая ассоциация и другие авторитетные организации частично возлагают вину на социальные сети.
На слушаниях в Конгрессе в марте представитель поднял вопрос о смерти Наски, показав главному исполнительному директору TikTok Шоу Чу некоторые клипы, которые приложение отправило мальчику, и спросив, позволит ли Чу своим собственным детям смотреть такой контент. В том же месяце родители Наски подали иск о неправомерной смерти в суд штата Нью-Йорк против TikTok, ByteDance и the railroad.

TikTok заявляет, что не может комментировать предстоящий судебный процесс, но пресс-секретарь Джейми Фавацца говорит, что компания заботится о безопасности и благополучии своих пользователей, особенно подростков. “Наши сердца разрываются из-за любой семьи, которая переживает трагическую утрату”, — говорит она. “Мы стремимся предоставить позитивный и обогащающий опыт и продолжим наши значительные инвестиции в защиту нашей платформы”.
Оригинальный алгоритм рекомендаций TikTok был разработан командой инженеров из Китая, работающих в ByteDance. Но хотя приложение было создано в Китае, оно используется практически везде, кроме Китая. Его даже нельзя скачать у него на родине. TikTok говорит, что его алгоритм теперь поддерживается инженерами по всему миру, а команды, базирующиеся в Северной Америке, Европе и Азии, вносят свой вклад. Но более десятка бывших сотрудников из отдела доверия и безопасности компании, опрошенных Bloomberg Businessweek, говорят, что руководители и инженеры в Пекине по-прежнему владеют ключами.
Trust and safety разрабатывает функции и политики для обеспечения безопасности пользователей TikTok. Команда, базирующаяся в США, Ирландии и Сингапуре, ежедневно модерирует миллиарды видеороликов, загружаемых на платформу, и отвечает за вопросы безопасности, такие как контент, сексуализирующий несовершеннолетних, и вирусные вызовы, побуждающие детей участвовать в опасных играх. Члены команды удаляют посты, нарушающие стандарты, и создают инструменты, помогающие пользователям отфильтровывать вредные материалы. Но бывшие сотрудники, которые говорили на условиях анонимности, поскольку подписали соглашения о неразглашении, говорят, что они мало влияли на алгоритм, который управляет лентой For You, и что их запросы о предоставлении информации о том, как это работает, часто игнорировались. Они настаивают на том, что их настроили на неудачу — попросили повысить безопасность приложения, основы которого они не смогли понять.
В 2021 году TikTok заявил, что тестирует способы запретить своему алгоритму отправлять несколько видеороликов на такие темы, как экстремальные диеты или грусть. Но компания не объявляла о каких-либо изменениях до этого года, после того, как Businessweek навел справки и до того, как Конгресс допросил Chew. В пресс-релизе от 16 марта компания сообщила, что за прошедший год она внесла 15 системных обновлений, включая удаление повторяющихся тем в наборе рекомендуемых видеороликов.
Записи с экрана аккаунта Наски, сделанные в апреле, показывают, что, по крайней мере, в некоторых случаях эти усилия не увенчались успехом. “Я не понимаю, почему они продолжают присылать ему эти вещи”, — говорит Мишель. Каждый раз, когда она открывает аккаунт, она находит постоянный поток видеороликов о депрессии, расставаниях, смерти и самоубийствах.
Она до сих пор точно помнит, что говорилось в первом видео, которое она увидела после получения доступа к аккаунту своего сына: “Я попала в ловушку жизни, в которой не хотела участвовать”. Она смотрела канал Чейза «Для тебя» больше часа и не могла понять, почему там не было веселых видео. именно об этом, по ее мнению, и говорил TikTok. Она спросила одного из двух старших братьев Чейза, почему он сделал свой аккаунт таким мрачным.
“Чейз этого не делал, мама”, — ответил ее сын. “Это вытекает из алгоритма”.

В мире бесконечной информации алгоритмы — это правила, записанные в программное обеспечение, которые помогают разобраться, что может быть значимым для пользователя, а что нет. Алгоритм TikTok обучен отслеживать каждый свайп, лайк, комментарий, повторный просмотр и подписку и использовать эту информацию для выбора контента, который заинтересует людей. Большая вовлеченность, в свою очередь, увеличивает доходы от рекламы. Компания доработала свою систему рекомендаций до такой степени, что пользователи иногда предполагают, что приложение читает их мысли.
Другие платформы социальных сетей используют аналогичные механизмы рекомендаций. По словам Гийома Шасло, французского специалиста по обработке данных, который работал над алгоритмом YouTube и сейчас консультируется с правительством своей страны по поводу его усилий по регулированию онлайн-платформ, TikTok отличается своим охватом. Его опыт работы в этой области подсказывает ему, что алгоритм TikTok контролирует большую долю контента, попадающего в ленту пользователя, чем это делают большинство других платформ социальных сетей. И “когда депрессивный контент полезен для вовлечения, алгоритм активно продвигает его”, — говорит он.
Опасения по поводу механизма рекомендаций TikTok высказывались внутри компании по крайней мере с 2020 года. Именно тогда Чарльз Бар, бывший менеджер по продажам рекламы в офисе TikTok в Германии, сказал, что предупредил свое начальство, что алгоритм отправляет пользователям поколения Z бесконечные потоки депрессивных видеороликов, прославляющих самоубийство. Бар провел в компании полтора года, присоединившись к ней в июле 2020 года в возрасте 18 лет. Подростком он основал два технологических стартапа и консультировал политиков и бизнесменов о том, как освоить TikTok, когда его приняли на работу.
По его словам, когда он впервые начал пользоваться приложением, его лента «Для вас» была забавной. Ему понравился продукт, и он с гордостью носил свою футболку TikTok. Однако, как только он начал публиковать видео, идентифицирующие себя как сотрудника, многие из его растущих подписчиков начали пересылать ему тревожные видео, которые нарушали правила TikTok, призывая его удалить их. Одно из первых страшных видео, которое, как он помнит, ему прислали, было о мужчине, стреляющем себе в голову. Когда Бар просматривал подобные ролики, иногда передавая их за помощью в службу доверия и безопасности, его лента начала искажаться. “Появлялось все больше и больше материалов о депрессии, самоубийствах и членовредительстве”, — говорит он. Иногда это доводило его до слез.
Канал Bahr усложнил продажу рекламы. Он регулярно проводил семинары с потенциальными клиентами, и многие просили посмотреть, как работает приложение. По его словам, он не мог показать свою страницу «Для вас», потому что боялся, что это отпугнет их. “Каждый раз, когда я заходил на семинар, я переключался со своего грустного, мрачного аккаунта на второй демо-аккаунт, у которого была вполне нормальная подача”, — говорит он. “Мне потребовалось много времени, чтобы понять, что, возможно, не только у меня такая экстремальная подача”.
Когда Бар был приглашен выступить на ежегодном собрании европейской команды по коммуникациям TikTok в ноябре 2020 года, он увидел в этом возможность поднять этот вопрос. В презентации PowerPoint, рассмотренной Businessweek, он сказал группе, что TikTok должен сделать своей миссией прислушиваться к своим пользователям, особенно к тем, кто борется с проблемами психического здоровья. “Несмотря на то, что мы вдохновляем молодых людей на то, чтобы они были самыми творческими личностями на TikTok, существует бесконечное сообщество молодых людей, не знающих, куда идти”, — говорилось в одном из его слайдов. Затем он показал три поста от молодых пользователей, борющихся с депрессией. Бар говорит, что он рекомендовал приложению не подвергать цензуре такой контент, а вместо этого создавать более позитивные клипы для молодых пользователей.
Семь месяцев спустя The Wall Street Journal опубликовала расследование, в ходе которого был проведен мониторинг более 100 автоматизированных учетных записей, чтобы отследить, как работает алгоритм TikTok. В течение 36 минут, сообщает газета, бот, запрограммированный на просмотр видеороликов о депрессии, получил поток контента, который на 93% был посвящен грустным темам. В то время TikTok заявил, что боты журнала не отражают человеческое поведение.
Эксперимент, проведенный журналом, побудил Бара провести один из своих собственных. Он открыл новый аккаунт в TikTok и сделал запись своего выступления с грустным контентом, чтобы посмотреть, сколько времени потребуется, чтобы его лента стала негативной. Это заняло 17 минут.
Бар говорит, что он высказал свои опасения по поводу внутренней системы обмена сообщениями команде algorithm strategy в Европе, но не получил ответа. Несколько месяцев спустя он был уволен по обвинению в мошенничестве со счетами расходов и неправильном использовании инструментов компании. Бар, который настаивает на своей невиновности, подал в суд на компанию за незаконное увольнение. TikTok не стал предъявлять свои претензии к Bahr и урегулировал их во внесудебном порядке. Компания не ответила на запросы о комментариях по поводу презентации Bahr в 2020 году и заявила, что не может ответить на его общую критику или на опасения, которые он высказал внутри компании, которые, по ее словам, она “не может подтвердить”.

While practically all tech companies are secretive about their data, insiders who also had experience working for Google, Meta and Twitter cast TikTok as Fort Knox by comparison / В то время как практически все технологические компании хранят свои данные в секрете, инсайдеры, которые также имели опыт работы в Google, Meta и Twitter, сравнивают TikTok с Форт-Ноксом

Пандемия обострила дебаты о влиянии алгоритмического проектирования на детей, поскольку родители беспокоились об изоляции и беспокойстве, вызванных карантинами, закрытием школ и расширением использования социальных сетей. В декабре 2021 года генеральный хирург США Вивек Мурти опубликовал рекомендации по технике безопасности о надвигающемся кризисе психического здоровья молодежи, заявив, что рост уровня безнадежности и суицидальных мыслей среди подростков может быть связан как с заточением из-за Covid-19, так и с социальными сетями. По его словам, слишком многим молодым людям на этих платформах говорили, что они “недостаточно хороши собой, недостаточно популярны, достаточно умны или достаточно богаты”. Он призвал компании социальных сетей разрабатывать свои алгоритмы таким образом, чтобы укреплять психическое здоровье молодежи, а не ослаблять его.
Психологи говорят, что подросткам сложнее противостоять аддиктивным свойствам алгоритмов, потому что их префронтальная кора, ответственная за принятие решений, суждения и контроль импульсов, развита не полностью. Согласно опросу Pew Research Center, проведенному в 2022 году, две трети американских подростков используют TikTok каждый день, при этом 16% заявили, что они находятся на платформе почти постоянно. Значительное большинство опрошенных заявили, что у них был положительный опыт работы в социальных сетях в целом и что это дало им чувство сопричастности. Но почти половина сказали, что они были ошеломлены драмой, которую они там обнаружили, и более четверти сказали, что социальные сети заставили их хуже относиться к своей жизни.
Социальные сети — это отрасль с жесткой конкуренцией, зависящая от молодой и непостоянной аудитории. Компании полагаются на алгоритмы, чтобы сохранить привлекательность своих платформ в глазах пользователей-подростков, и они яростно защищают эту интеллектуальную собственность. Отсутствие прозрачности ограничило академические исследования и породило противоречивые заявления. С одной стороны, платформы предоставляют важнейшие возможности для установления связей между подростками. С другой стороны, они поощряют детей сравнивать себя с другими, становиться зависимыми от технологий и открывать для себя контент, который приукрашивает вредное поведение.

Бывшие члены команды TikTok по вопросам доверия и безопасности говорят, что они опасались, что их платформа оказывает негативное влияние на подростков, и не понимали, почему компания не нанимает детских психологов для работы над разработкой алгоритмов. Многие читали документы, опубликованные в 2021 году Фрэнсис Хауген, в то время специалистом по обработке данных в Facebook, которые показали, что компания осознавала, что ее продукты наносят вред детям. Бывшие сотрудники TikTok говорят, что они считали, что вред от их приложения может быть хуже, чем от Facebook, но у них не было возможности решить проблему или даже изучить ее.
В то время как практически все технологические компании хранят свои данные в секрете, эти инсайдеры, которые также имели опыт работы в Google, Meta Platforms и Twitter, сравнивают TikTok с Fort Knox. Секретность была особенно заметна, когда речь заходила об алгоритме. Бывшие сотрудники trust and safety говорят, что они никогда не были посвящены в информацию о том, как это работает, как это взвешивается и как это можно изменить, и что руководители команд не могли получить ответы от инженеров, которые это проектировали. Более десятка человек, некоторые из которых еще в прошлом году были в TikTok, говорят, что они были заблокированы, когда пытались получить доступ к базовой информации об алгоритме. Один из лидеров в области безопасности в Европе говорит, что он попросил главу инженерного отдела из Пекина организовать встречу с более широкой командой по вопросам доверия и безопасности, чтобы они могли задавать вопросы и лучше понимать механизм рекомендаций. Лидер говорит, что просьба была проигнорирована.

Несколько сотрудников trust and safety говорят, что некоторые документы были написаны на китайском языке и что переводы часто не включали приложений или ссылок на исходные наборы данных, что затрудняло контекстуализацию и эффективный анализ информации. Пятеро бывших членов команды говорят, что уволились из-за того, что секретность мешала им выполнять свою работу.
TikTok заявляет, что серьезно относится к опасениям, высказанным сотрудниками, что члены команды доверия и безопасности работают непосредственно с инженерами и что любой, кто покинул компанию до 2021 года, не будет знаком с изменениями, внесенными с тех пор. В нем также говорится, что все важные документы об изменениях алгоритма и наиболее важные комментарии, сопровождающие его код, написаны на английском языке, но что некоторые примечания в коде могут содержать другие языки, используемые его инженерами в Азии и других странах.
Все платформы социальных сетей подверглись критике за то, что они распространяют вызывающий привыкание контент среди подростков, наносят вред их психическому здоровью и тайно собирают данные о них. Но когда компания, принадлежащая Китаю, занимается подобными вещами, американские законодатели склонны выставлять это в особенно зловещем свете. Опасения, что правительство Китая может потребовать от TikTok передачи своих пользовательских данных или чтобы механизм рекомендаций приложения отвечал интересам Китая, побудили ЕС, США, Канаду и другие страны запретить приложение на устройствах, выпущенных правительством. Некоторые кампусы колледжей США заблокировали его в своих сетях Wi-Fi, а в апреле законодательное собрание Монтаны стало первым, кто принял законопроект, блокирующий приложение на всех персональных устройствах.

На мартовских слушаниях в Конгрессе генерального директора Чу засыпали вопросами о связи TikTok с Пекином и его взаимоотношениях с Коммунистической партией Китая. Его попытки парировать удары — “Это американские данные, размещенные на американской земле американской компанией, контролируемой американским персоналом” — были восприняты скептически.
В какой-то момент республиканец из Флориды Гас Билиракис представил родителей Чейза Наски, которые были в зале. “Мистер Чу, ваша компания разрушила их жизни”, — сказал Билиракис. “Не могли бы вы поделиться этим контентом со своими двумя детьми?” Затем он воспроизвел 30-секундную запись экрана из аккаунта Nasca в TikTok, после чего спросил Чу, берет ли он на себя ответственность за алгоритм приложения, да или нет. Чу начал отвечать, но Билиракис оборвал его. “ Да или нет? — потребовал он.
“Мы действительно предоставляем ресурсы любому, кто вводит что-то вроде самоубийства”, — сказал Чу, прежде чем Билиракис снова прервал его, заявив: “Я вижу, вы не хотите отвечать на вопрос или брать на себя какую-либо ответственность за свою материнскую компанию, технологию и вред, который она создает”.
Одна из тем, поднятых на слушаниях, также представляла интерес для trust and safety: почему TikTok не смог изменить свой алгоритм, чтобы он был больше похож на алгоритм своей дочерней платформы Douyin, которая работает только в Китае и использует часть того же исходного кода. Известно, что алгоритм Доуина рассылает подросткам позитивный контент, такой как образовательные посты о научных экспериментах и музейных экспонатах. Кроме того, для детей младше 14 лет обязательное ограничение по времени составляет 40 минут в день.
TikTok не ответил на вопросы о том, какая доля исходного кода его приложения совпадает с исходным кодом Douyin; он сказал, что Douyin — это “отдельное приложение, регулируемое другой политикой регулирования и рынками”. В нем также говорится, что в последние месяцы компания работала над устранением некоторой загадочности вокруг TikTok и обновлением платформы, чтобы сделать ее более безопасной для детей. В 2020 году это дало возможность родителям следить за тем, что делают их дети, используя TikTok. В следующем году компания добавила более строгие меры конфиденциальности к учетным записям лиц младше 16 лет, установив для них по умолчанию статус приватных. Затем, в феврале, компания объявила, что предоставит американским исследователям доступ к некоторым данным об аккаунтах и контенте, хотя это требует от них отправки своих результатов в TikTok перед публикацией. В марте компания добавила функцию, которая уведомляет пользователей младше 18 лет, если они находятся на платформе более часа, и заставляет их вводить пароль, чтобы оставаться в системе. Он также начал позволять пользователям сбрасывать свои рекомендации «Для вас», как если бы они только что зарегистрировались в новой учетной записи, если им показалось, что контент, который они видят, слишком темный.
Рин Линтикум, глава отдела политики в области психического здоровья в TikTok, говорит, что компания запрещает посты, прославляющие такие темы, как самоубийство и членовредительство, и что она обучает свои системы искусственного интеллекта и 40 000 модераторов-людей удалять их. Согласно данным компании, в последнем квартале 2022 года TikTok отфильтровал более 97% такого контента до того, как его увидели другие пользователи, из более чем 85 миллионов видео, которые он удалил в целом.
Умеренность — это постоянная проблема, говорит Линтикум, который использует местоимение “они” и работает в их роли уже год. Трудно обучить алгоритм различать плач от печали и плач от радости, или между видео, которое повышает осведомленность о депрессии или анорексии, и видео, которое поощряет эти состояния. “Это невероятно сложное пространство”, — говорит Линтикум. “То, что может быть вредным для одного человека, не обязательно будет вредным для другого”.
По их мнению, некоторый контент не должен подвергаться цензуре, потому что это может помочь уязвимым подросткам чувствовать себя менее стигматизированными. “Люди переживают взлеты и падения”, — говорит Линтикум. “У них печальный жизненный опыт”.

“You could have a child and a parent in the same room, together watching TikTok on their phones, and they’d be seeing an entirely different product” / “У вас могли бы быть ребенок и родитель в одной комнате, которые вместе смотрели бы TikTok на своих телефонах, и они увидели бы совершенно другой продукт”.

По словам одного из его друзей Брэндона Маффеи, видеоролики с людьми, говорящими, что они не хотят жить, попали в ленту Nasca For You в конце 2021 года. Будучи 17-летним выпускником средней школы Бейпорт-Блу-Пойнт, Маффеи познакомился с Наской в третьем классе. Он был новичком в школе, и его тянуло к Наске, которая была дружелюбной, свободной духом и забавной. Когда пандемия закрыла их школу, они, как и многие американские подростки, стали проводить больше времени на TikTok, отправляя друг другу глупые видео до позней ночи. Ближе к концу 2021 года Маффеи заметил, что фотографии, которыми поделилась Наска, становятся темнее. Одно из писем, отправленных Наской за несколько недель до его смерти, было о самоубийстве. “Я открыл его и просто подумал: «Черт. Я не знаю, почему он посылает это мне”, — говорит Маффеи. Он отчетливо помнит это видео, потому что оно заставило его расплакаться. Музыка была удручающей, а подпись на экране гласила: “Это того больше не стоит”.
Маффеи начал говорить людям, включая Наску, что в приложении слишком много тревожного контента, и он хочет удалить его. “Это действительно вредно для психического здоровья, потому что это наталкивает на вас эти грустные, угнетающие чувства, даже если вы их не испытываете”, — говорит он.
В феврале Businessweek отправил девятиминутную запись передачи Nasca For You Дженнифер Харригер, профессору психологии Университета Пеппердайн в Калифорнии. Харригер провела последние пять лет, изучая влияние социальных сетей на подростков, особенно когда речь заходит об удовлетворенности образом своего тела. Ее эксперименты с сотнями студентов колледжа показали, что воздействие идеализированных типов телосложения в социальных сетях может привести к снижению удовлетворенности собственной внешностью. Совсем недавно она сосредоточилась на алгоритме TikTok, но говорит, что ее исследования были ограничены отсутствием прозрачности в компании. “Нет эффективного способа изучить это, потому что мы не знаем, как это работает”, — говорит она.
После нескольких минут просмотра на своем телефоне Харригер приостанавливает запись. “Это натиск грустного, унылого и безнадежного контента”, — говорит она. Даже для нее: “Это было очень эмоционально возбуждающе, и я смогла более логично осмыслить то, что увидела. Когда подросток с уязвимым мозгом просматривает этот контент, у него будет более сильная реакция. И это очень страшно”. Она говорит, что канал Наски “определенно не подходит для подростка”.
В исследовательской статье 2022 года “Опасности кроличьей норы” Харригер и трое его коллег написали, что «в конечном счете ответственность за создание и внедрение алгоритмов для защиты своих пользователей от вреда лежит на корпорациях социальных сетей». Некоторые американские законодатели пытаются донести именно это сообщение. На государственном и федеральном уровнях были предложены законопроекты, призванные заставить технологические компании ставить безопасность детей выше интересов получения прибыли. Ожидается, что Верховный суд США также вынесет решение в этом году по делу, оспаривающему раздел 230 Закона о приличиях в сфере коммуникаций, который защищает компании социальных сетей от судебного преследования за контент, размещенный на их сайтах.
С начала 2022 года против платформ социальных сетей было подано более 200 судебных исков, многие из них утверждают, что, даже если компании не могут нести ответственность за контент, размещенный на их платформах, они должны нести ответственность за вред, встроенный в их продукты. Иски включают по меньшей мере две дюжины исков, поданных школьными округами против некоторой комбинации Instagram, Snapchat, TikTok, YouTube и их материнских компаний, утверждая, что они несут ответственность за кризис психического здоровья молодежи в стране.
Многие другие иски были поданы Юридическим центром жертв социальных сетей, базирующейся в Сиэтле фирмой, представляющей семью Наска. Центр утверждает, что в более чем 65 случаях продукты социальных сетей вызывали недосыпание, расстройства пищевого поведения, наркоманию, депрессию и самоубийства. Лаура Маркес-Гарретт, один из адвокатов центра, говорит, что в судебных исках против TikTok утверждается, что его алгоритм предназначен для выявления уязвимостей. “У TikTok есть действительно темная сторона, которую большинство взрослых не видят”, — говорит она. “У вас могли бы быть ребенок и родитель в одной комнате, которые вместе смотрели бы TikTok на своих телефонах, и они увидели бы совершенно другой продукт”.
Среди дел центра есть дела, поданные от имени двух девочек-подростков, выздоравливающих от расстройств пищевого поведения: 18-летней Нуалы Маллен из штата Нью-Йорк и 14-летней Кэти из Вирджинии, которая попросила не называть ее фамилию, чтобы проблемы с анорексией не преследовали ее всю жизнь. Оба говорят, что им нравилось смотреть глупые танцевальные видео и смешные клипы на TikTok, но в 2021 году они заметили, что в их лентах For You начали появляться незапрошенные видеоролики о том, как сделать ноги стройнее и потреблять меньше калорий в день. “Я вообще не помню, чтобы искала что-то из этого барахла, а потом оно оказалось там”, — говорит Кэти.
Они говорят, что стали одержимы приложением и со временем стали изолированными от своих друзей и семьи. “Мне было очень одиноко, и TikTok вроде как просто был рядом”, — говорит Кэти. В январе 2022 года, на следующий день после ее 13-летия, ее пришлось госпитализировать, поскольку частота сердечных сокращений в состоянии покоя была настолько низкой, что ее жизнь была в опасности. Маллен был госпитализирован в том же месяце с теми же симптомами. “Этот алгоритм разработан для того, чтобы заставить детей причинять себе вред способами, о которых они даже не подозревают”, — говорит Маллен, в иске которого также упоминаются Meta и Facebook. Оба дела продолжаются.
“Наши дети умирают”, — говорит Маркес-Гарретт. “У них развивается пагубная зависимость от этих продуктов, и они испытывают беспрецедентный уровень депрессии, тревоги и самоубийств. Сколько 16-летних подростков покончили с собой, чтобы люди поняли, что это не нормально?”

“Моя жизнь чертовски несчастна!” — кричит мужчина в ролике TikTok. “Я ненавижу свою гребаную жизнь, я ненавижу ее”, — кричит он.
Мишель Наска сидит за кухонным столом в доме своей семьи, отделанном голубой черепицей, на Лонг-Айленде в феврале и смотрит видео с канала Чейза TikTok на iPad. “Это то, что я получаю каждый раз, когда открываю его аккаунт”, — говорит она, ее щеки мокры от слез. Человек на экране продолжает свою тираду. Руки Мишель начинают дрожать. Ее муж, Дин, смотрит через ее плечо, морщась. “Это отвратительно, вот что это такое”, — говорит он. “Где счастливые видео? Здесь нет ничего счастливого.”
До смерти Чейза семья Наска жила обычной загородной жизнью. Мишель, стюардесса, и Дин, бухгалтер, жили в своем доме с пятью спальнями вместе со своими тремя сыновьями. Дети проводили лето, катаясь на велосипедах по городу или катаясь на лодке до острова Файр. Чейз был сверхуспевающим человеком. В 4 года он заполнял ответы на домашнее задание старшего брата по математике. Подростком он был отличником, выступал в школьной команде по плаванию и выступал за футбольную команду олимпийского развития. “Он никогда не проявлял никаких признаков депрессии”, — говорит его футбольный тренер Курт Келли. “Он был хорошим товарищем по команде, хорошим капитаном, хорошим другом”.

Ему нравился Гарри Поттер, стейк-хаусы и социальные сети. Он сидел в машине по дороге на футбольную тренировку в наушниках, приклеившись к экрану. Его родители не придали этому особого значения и не попросили проверить его телефон. Он следил за своими оценками и графиком тренировок, и они не хотели мешать той небольшой свободе, которая у него была.
Тем не менее, они использовали телефон, чтобы отследить его местоположение. Именно так его мать поняла, что что-то не так в тот вечер в феврале 2022 года. Незадолго до семи вечера она проверила местоположение Чейза, чтобы узнать, когда он будет дома. Маленькая синяя точка показывала, что он покинул спортзал, но она не двигалась. Она обновила экран, увеличила изображение и увидела, что он стоит на железнодорожном переезде. Она позвонила ему на телефон, и сообщение сразу перешло на голосовую почту.
Мишель села в свою машину и поехала в сторону железнодорожных путей. Приблизившись к ним, она увидела неподвижный поезд с мигающими огнями. Кондуктор был снаружи и велел ей оставаться на месте. Она начала бегать взад и вперед по рельсам, заглядывая под колеса, выкрикивая имя Чейза.

Первые дни после его смерти были вихрем неверия, горя и бессонницы. Когда полиция вернула ему велосипед и iPhone, Мишель включила телефон и обнаружила, что он все еще работает, несмотря на то, что его экран был разбит в результате удара поезда. Но у нее не было шестизначного пароля Чейза, а возможных комбинаций было миллион. Она все равно продолжала пытаться разблокировать телефон — это придавало ей целеустремленности и служило желанным отвлечением.
Она отнесла устройство в Apple store, но менеджер сказал, что не может разблокировать его по соображениям конфиденциальности. Местный ИТ-специалист тоже не смог попасть внутрь. Полиция не стала бы помогать, поскольку Чейз умер в результате самоубийства, а не убийства. Наконец Мишель поняла, что может сбросить пароли Чейза к TikTok и Snapchat, выбрав “забытый пароль” и получив ссылку, отправленную на его резервный адрес электронной почты, который на самом деле был ее собственным. Она на самом деле не знает, что искала. Но когда она открыла аккаунт в TikTok, по ее словам, она нашла это. По ее словам, приложение “прославляло и нормализовало самоубийство”.
Семья Наска решила подать в суд на TikTok после разговора с Юридическим центром для жертв социальных сетей. “Люди должны знать об опасностях социальных сетей”, — говорит Дин. “ Над Чейзом никто не издевался. У него была отличная компания друзей, и он преуспевал в учебе и спорте. Он не употреблял наркотики, он не пил, так что же это была за переменная, которая вывела его из себя? Я могу только заключить, что это из-за постоянного потока видео с TikTok ”.
Какую бы роль ни сыграл канал Nasca For You в его смерти, выдержки из его переписки с кем-то на TikTok дают некоторое представление о его настроении в день смерти.
В 9:09 утра, находясь в классе, Наска отправил личное сообщение пользователю, на которого он подписался, который опубликовал много контента, связанного с депрессией. Он никогда не встречался с этим пользователем и не знал его настоящего имени. И все же в тот день он искал утешения у этого незнакомца. Их беседа (выдержка приведена здесь) продолжалась в течение всего учебного дня.
“Возможно, сегодня это не пройдет, я устал от разборок”, — написал Наска в какой-то момент.
“Я знаю, что ты чувствуешь на 100%”, — ответил другой пользователь. “Я действительно надеюсь, что ты останешься в живых. Это не стоит того, чтобы уходить.”
— Я так долго говорил себе это. Я больше ни в чем не нахожу удовольствия. На любую футбольную тренировку, на которую я хожу, я боюсь, что облажаюсь, даже ходить в спортзал или играть в видеоигры сейчас скучно”.
“Очень трудно найти радость и счастье в жизни, и лично я все еще в поиске. Я понимаю, что ты на пределе своих возможностей, но не сдаваться — это то, что делает тебя сильным. Никто не должен знать, через какое дерьмо ты проходишь”.
— Меня устраивает, что никто не знает. Я думаю, что так мне нравится больше. Когда я думаю о своем будущем, я просто не могу представить себя счастливым, я не могу представить, что у меня есть девушка / жена / семья. Я просто потерял страсть из-за того, что все время пребывал в депрессии”.
Разговор закончился, когда закончился школьный день. Затем, в 18:29 вечера, примерно за 10 минут до своей смерти, Наска отправил последнее сообщение.
“Эй, братан, если меня завтра здесь не будет, я прошу тебя вспомнить меня и простить”.

Источник: https://archive.is/dmSyf#selection-4209.0-4253.79

на Фото: Screenshots from videos in Chase Nasca’s feed in early 2022. Source: Social Media Victims Law Center / Скриншоты из видеороликов в ленте Чейза Наски в начале 2022 года. Источник: Юридический центр для жертв социальных сетей