Американка требует от Apple 1,2 миллиарда долларов за отказ проверять фотографии пользователей в iCloud на предмет детской порнографии — NYT
В США женщина потребовала более миллиарда долларов от Apple Inc. из-за того, что компания отказалась от планов искать детское порно в облачных хранилищах граждан ввиду опасений в области кибербезопасности — сообщает The New York Times.
Речь идёт о так называемом «распознавании CSAM» (материалов с сексуальным насилием над детьми). Под этим термином подразумеваются любые сексуализированные изображения несовершеннолетних, включая вымышленные и нарисованные на ПК, если они «неотличимы» от детей. После повсеместного внедрения ИИ власти стран также начинают официально запрещать дипфейки с телами взрослых, если на них накладываются лица детей. В Южной Корее и вовсе ввели тюремные сроки за просмотр и «распространение» любых дипфейков. После ареста Павла Дурова Сеул воспользовался уязвимым положением Telegram, чтобы заставить платформу раскрывать аккаунты, якобы распространяющие незаконное сгенерированное порно.
Apple была одной из последних крупных компаний с облачным хранилищем, которая ввела технологию распознавания CSAM; другие гиганты воде dropbox и Google сделали это раньше. Фирма объявила о начале своего проекта в августе 2021 года. Согласно пресс-релизу, сервис проверял бы изображения из iCloud непосредственно на устройстве и вычислял NeuralHash — показатель-«отпечаток», который учитывал контуры изображения. После этого вычисленные значения направлялись бы на отдельные сервера, которые сравнивали их с теми, что компании предоставили силовики. Система, которая находила несколько совпадающих значений NeuralHash, затем должна была прислать уведомление в компетентные органы.
Дата начала работы алгоритма не сообщалась. Можно предположить, она проработала несколько месяцев, после чего была тихо свёрнута из-за рисков относительно кибербезопасности. В частности, предполагалось, что она позволила бы силовикам незаконно проверять устройства граждан (как именно, не уточняется, однако можно предположить, что вместе с NeuralHash детского порно власти могли предоставлять значения других фотографий, которые могли бы интересовать силовиков).
Как выяснила NYT, 27-летняя жертва домашнего насилия подала против Apple иск на 1,2 миллиарда долларов за отказ от «распознавания CSAM». Имя заявительницы не раскрывается, однако известно, что её в детстве сфотографировали голой и разослали по интернету. Она получала уведомление о том, что её фотографии были найдены на том или ином устройстве каждый раз, когда его где-либо обнаруживали силовики. Согласно статье, такие письма она получает минимум раз в месяц.
Заявительница заметила, что как-то раз получила уведомление о том, что файл с её фото был найден на чьём-то MacBook (и, как выяснилось позже, в iCloud). Каким образом женщина выяснила, что компания позже отказалась от инструмента, неизвестно. Тем не менее, в иске заявляется, что Apple «позволила материалу распространяться, заставляя жертв детского сексуального насилия заново переживать травму, которая сформировала их жизнь». Иск будет рассматривать Окружной суд США в Северной Калифорнии. Деньги предлагается поделить между другими гражданами, которых также снимали голыми в детстве.
«Иск потребует изменения практики Apple и выплату компенсации потенциальной группе из 2 680 жертв, которые имеют право быть частью дела <..> Согласно закону, жертвы сексуального насилия над детьми имеют право на возмещение ущерба в размере минимум 150 тысяч долларов, что означает, что общая сумма компенсации, с типичным утроением запрашиваемого ущерба, может превысить 1,2 миллиарда долларов, если присяжные признают Apple ответственной», — рассказали NYT адвокаты истицы.
Примечательно, что раньше главным противником любых технологий безопасности в своих товарах было ФБР США. В 2015 году агентство воспользовалось терактом ИГИЛ в Сан-Бернардино, чтобы попытаться заставить компанию отказаться от шифрования и удаления файлов после неудачного ввода пароля на iPhone 5c одного из террористов. В 2020 году компания не смогла ввести сквозное шифрование в iCloud из-за угрозы преследования со стороны ФБР. Функция появилась только в 2022 году. Силовики снова попыталась заявить, что закрытие лазеек для шпионажа за гражданами «подрывает способность защитить американский народ», однако на этот раз силы эти жалобы не возымели. Примечательно, что недавно данные американских операторов массово взломали китайские хакеры, после чего ФБР сама предложила гражданам шифровать свои СМС.