Власти Нью-Йорка обвинили разработчиков TikTok в проведении «экспериментов» над пользователями — Reuters

Reuters утверждает, что прокуратура Нью-Йорка обвинила ByteDance в экспериментах над пользователями Тиктока, которые пытались сбросить настройки ленты. Часть информации была получена из внутренней переписки.

Важно подчеркнуть, что речь идёт не о новом иске, а на обновлении старого дела. Новые детали пришли от прокуратуры; фактически, силовики говорят, что считают компанию недобросовестно выполняющей свои обязательства. 

Иск подали ещё в конце 2024 года. Он содержит обвинения, которые уже звучали из уст евробюрократов. Фактически, компанию обвиняют в создании «слишком интересной» соцсети, от которой несовершеннолетним сложно оторваться. В основном иск опирался на наличие бесконечной ленты, уведомления о выходе в эфир и фильтры, которые меняют внешность на более красивую. По версии прокуратуры Нью-Йорка, всё это нелегальным образом удерживало аудиторию в приложении. 

Отдельно упоминалось, что Тикток заблокировал не всех пользователей, которые показывали опасные для жизни челленджи и контент с преступлениями. В частности, как жаловались чиновники, дети могли насмотреться на руферов, которые прыгают по крышам без страховки, и угонщиков автомобилей, которые пользовались уязвимостью в марке Kia, чтобы красть машины. По версии государства, компания должна была хотя бы подавлять такой контент, чтобы он меньше попадался в ленте рекомендаций у американских подростков.

Также чиновники жаловались на недостаточно серьёзные ограничения для детей. В частности, в иске было указано, что подростки могли продолжить пользоваться даже после окончания экранного часа, если знали пароль, а также что статистика использования приложения не вдохновляла детей отложить телефон. Более того, прокуроры пожаловались на отсутствие родительского контроля в веб-версии Тиктока и на недостаточно эффективное «обнуление» ленты (FYF refresh, она же — Algo Refresh).  

Иск был лишь частью большой волны жалоб штатов и федерального правительства на компанию. Федеральный Минюст подал похожий иск, в котором обвинил TikTok в нарушении закона о конфиденциальности детей в интернете (COPPA). В августе администрация Трампа договорилась с компанией о выплате 400 миллионов долларов и изменении дизайна приложения и сбора данных для защиты детей. Также были достигнуты договорённости с властями Алабамы по похожему процессу. При этом нью-йоркское дело так и не было урегулировано. 

Насколько можно предположить, прокуратура обновила иск и добавила новые обвинения. Публичного пресс-релиза по этой теме нет. Reuters пишет, что документы по делам штатов против Byte Dance частично засекречены. Издание не раскрывает, кто передал ему документы с новой жалобой. 

Если верить формулировкам Reuters, в новом заявлении прокуратуры говорится, что разработчики провели тайные эксперименты над теми, кто воспользовался функцией Algo Refresh. В документах утверждается, что некоторым пользователям провели «плацебо»-сброс, хотя в реальности их алгоритм продолжил работать как раньше. Фирма якобы пыталась сравнить тех, у кого действительно обнулилась лента, с теми, кто получил «пустышку».

Насколько можно судить, прокуратура ссылается не внутреннюю переписку сотрудников. В частности, в руки к силовикам попали письма одного из менеджеров по продукту TikTok, отвечающий за направление «цифрового благополучия» (Digital Well Being). В письмах, которые цитируют истцы, говорится, что фейковое обнуление ленты может быть «проблематичным» и ввести пользователей в заблуждение. Из его сообщения следует, что фирма рассматривала тех, у кого на самом деле не обновился алгоритм, как «контрольную группу» своего эксперимента. 

ByteDance, ожидаемо, отрицает обвинения. Фирма сообщила, что «постоянно совершенствует», а значит, «что, как и большинство компаний, регулярно тестирует новые продукты и функции, чтобы проверить пользовательский опыт и понять, как они работают в реальных условиях». При этом конкретных комментариев о предполагаемом «плацебо»-тестировании разработчики не предоставили. 

«В иске утверждается, что TikTok уверяет пользователей в приоритетности безопасности и пригодности платформы для детей и подростков, но при этом сознательно ограничивает доступ определенных групп пользователей к некоторым инструментам защиты — в частности, тех, кто целенаправленно пытался избежать нежелательного или потенциально вредного контента <..> В иске утверждается, что в 2023 году компания неоднократно проводила тестирование с участием тысяч пользователей, сравнивая тех, у кого эта функция была доступна, с теми, у кого ее не было; целью было изучить, как долго пользователи остаются на платформе и как это влияет на доходы от рекламы», — говорится в статье.