Тысячи кенийцев наблюдают за тем, как пользователи очков Ray-Ban Meta ходят в туалет и занимаются сексом — SvD и GP

Жители Найроби видят приватные снимки клиентов Meta Ray-Ban. Об этом говорится в статьях газет Göteborgs-Posten и Svenska Dagbladet.

Очки Meta Ray-Ban — совместный проект бывшей Facebook Inc. и гиганта EssilorLuxottica. В них встроены камера, микрофон и ИИ. Они позволяют записывать видео и аудио, а также задавать вопросы голосовому помощнику. У этого устройства уже как миниум 2 миллиона пользователей. Сообщалось о планах партнёров по проекту увеличить производство до 20 миллионов штук в год.

Журналисты поговорили с сотрудниками кенийского филиала компании Sama, подрядчика Meta по обработке данных. Формально, головной офис фирмы находится в Калифорнии, однако фактически всю работу выполняют африканцы. Большинство из них занимается «аннотацией данных». 

В рамках этого процесса человек следит за тем, как нейросети интерпретируют изображения и звуки, чтобы «научить» ИИ «понимать» реальный мир. Эта информация считается главной при разработке любых нейросетей, которые должны выполнять действия с объектами. Печально известная назойливая «капча» от Google на самом деле преследовала те же цели: миллионы пользователей интернета заставляли бесплатно работать на бигтех-компанию, объясняя и подтверждая, где заканчиваются границы объектов или какие предметы относятся к одной группе. Эти данные затем используются в моделях, в том числе в тех, которые ставят на камеры с распознаванием лиц и объектов. 

В случае с очками, как объяснили журналисты, аннотаторы исправляют или подтверждают то, как нейросети распознают объекты в кадре. Также им отправляют запись голоса и ответов встроенного ИИ вместе с расшифровкой. В задачи сотрудников входит понять, правильно ли нейросети перевели голос в текст, и верно ли устройство дало ответ.

Как выяснили журналисты, Meta передаёт данные с Ray-Ban неграм из Найроби. Работники говорят, что видели голых людей, секс и тех, кто идёт «по делам» в уборную. По словам журналистов, Sama наняла тысячи местных жителей, чтобы те отслеживали жизнь пользователей очков. Судя по всему, очки могут записывать окружающее пространство даже когда не находятся на голове: один негр рассказал, что пользователь положил устройство на тумбочку, но то продолжило снимать, как его жена переодевается в той же комнате.

Насколько можно судить, видео были сняты клиентами для личного пользования (либо они просто забыли выключить запись), а потом Meta «позаимствовала» кадры для обучения нейросетей. В юридических соглашениях с компанией есть формулировки, которые позволяет ей так бесцеремонно получать данные клиентов. В одной из них говорится, что Meta «может в некоторых случаях проверять ваше взаимодействие с ИИ, включая содержание ваших разговоров с ИИ или сообщений, отправленных им, причём проверки могут проводиться автоматически или вручную человеком». Собеседники газет при этом не уверены, что пользователи понимают, что дают разрешение на просмотр своих роликов африканцами. 

«Когда смотришь эти видео, возникает именно такое ощущение. Но поскольку это работа, ты должен её выполнять. Ты понимаешь, что смотришь на чью-то личную жизнь, но в то же время от тебя просто ожидают, что ты будешь выполнять свою работу. Задавать вопросы нельзя. Если начнёшь задавать вопросы, тебя уволят <..> Также снимаются сцены секса в очках – кто-то носит их во время полового акта. Поэтому это настолько деликатно. У нас повсюду камеры, и вам не разрешается приносить свои телефоны или любые гаджеты, которые могут записывать», — говорят сотрудники.

Отдельно отмечается, что Sama запретила сотрудникам скачивать видео на свои устройства или даже приносить телефоны в офис, чтобы нельзя было записать экран. За сотрудниками также по камерам наблюдения следят охранники. Важно отметить, что в Африке, включая Кению, нет серьёзной практики защиты данных и никто не может гарантировать отсутствие сговора охраны с сотрудниками (доказательств таких случаев пока нет).