Google посчитал преступником отца, который сфотографировал гениталии сына для консультации врача

Google заблокировал учётную запись отца, когда тот сфотографировал заболевание на гениталиях сына, чтобы отправить врачу. Этот эпизод стоил Марку важных данных, накопленных за десятилетия использования Google, и превратил его в объект полицейского расследования.

В феврале 2021 года Марк обнаружил проблему на гениталиях ребёнка и решил сфотографировать её, чтобы отследить ухудшения. Его жена позвонила записаться на видеоконсультацию — шла пандемия — и врач попросила прислать фото проблемной зоны.

Через два дня после того, как Марк сфотографировал гениталии ребёнка, Google уведомил его о блокировке учётной записи из-за «серьёзного несоответствие политике Google, которое может нарушать закон». Ссылка «узнать больше» привела к списку, где значилось «сексуальное насилие и эксплуатация детей».

Как выяснилось позднее, Марк потерял электронные письма, контакты друзей и бывших коллег, документы, связанные с первыми годами жизни сына. Так как его учётная запись в Google Fi также оказалась заблокирована, Марк остался без номера телефона. А без него он не мог получить коды безопасности, чтобы войти в аккаунты других сервисов.

Марк подал запрос в службу поддержки, но там ему сообщили, что «материалы сексуального насилия над детьми отвратительны». Через несколько дней после повторного запроса Google отказался восстанавливать запись без дополнительных объяснений. Более того, сервис пометил сделанное им видео и полиция Сан-Франциско начала расследование в отношении него.

В декабре 2021 года Марк получил письмо из полицейского управления. Его предупредили, что в отношении него ведётся расследования, и прислали копии ордеров на обыск, выданных Google и его провайдеру. Следователь потребовал все его поисковые запросы, историю местоположений, сообщения. А также документы, фото и видео, которые он хранил в сервисах Google.

Марку пришлось самостоятельно связаться со следователем, чтобы узнать, что дело закрыли. Полиция не смогла сообщить ему об этом по телефону или электронной почте, потому что они были отключены. Силовики решили, что «никакого преступления не было». И предложили самостоятельно сообщить Google об этом. В ответ компания оповестила Марка, что удаляет его учётную запись навсегда.

Подобную историю The New York Times обнаружила в Техасе. По просьбе педиатра Кассио отслеживал течение заболевания на гениталиях сына, фотографируя их. Резервные копии файлов сохранялись на Google Фото. Он делился ими в чате Google с женой. Кроме того, Кассио планировал купить дом. Когда учётную запись заблокировали, сделка оказалась под угрозой.

Прежде поиск детской порнографии происходил по технологии PhotoDNA, выпущенной Microsoft в 2009 году. Она позволяла обнаружить совпадения новых изображений с уже собранной базой контента. Затем в 2018 году Google разработала инструмент с искусственным интеллектом. Он может распознать и новые фото с изображением эксплуатации детей. Позднее технологию переняли другие компании, в том числе Facebook.

При обнаружении Google неприемлемого контента его просматривает модератор. Затем, после подтверждения, компания блокирует учётную запись и отправляет отчёт в CyberTipline — национальную систему сообщений США о сексуальной эксплуатации детей в интернете. В 2021 году только Google заблокировал больше 270 тысяч пользователей.