Очки Meta с искусственным интеллектом отправляют конфиденциальные видеоматериалы экспертам в Кении

Умные очки Meta Ray-Ban оказались в центре масштабного этического скандала. Выяснилось, что корпорация передает фрагменты видеозаписей пользователей сторонним подрядчикам в Кении для «ручного» обучения алгоритмов ИИ. Несмотря на обещания высокого уровня защиты, доступ к частной жизни владельцев гаджетов получили сотни наемных модераторов.

Как устроено «обучение» нейросети

Согласно внутренним отчетам, ставшим доступными профильным СМИ, пишет xrust, система искусственного интеллекта Meta не всегда способна самостоятельно интерпретировать сложные визуальные сцены. Для «разметки» данных компания использует платформу Sama, офисы которой расположены в Найроби.

Кенийские специалисты просматривают тысячи коротких роликов, помечая объекты и действия. Основная проблема заключается в том, что на видео часто запечатлены:

• лица случайных прохожих;
• интерьеры частных квартир;
• экраны компьютеров с паролями и личной перепиской.

Реакция экспертов и вопросы приватности

Правозащитники из организации Privacy International уже выразили обеспокоенность. По их мнению, пользователи не были должным образом проинформированы о том, что их «глазами» будут смотреть живые люди. Представители Meta заявляют, что данные анонимизированы, а модераторы проходят строгий отбор, однако эксперты по кибербезопасности напоминают о человеческом факторе и рисках утечек.

Итог

Это не первый случай, когда техгиганты используют дешевую рабочую силу из стран Африки для обучения ИИ. Ранее компанию OpenAI (создателя ChatGPT) критиковали за использование кенийских модераторов для фильтрации токсичного контента. Нынешний инцидент с Meta осложняется тем, что сбор данных происходит через носимое устройство, которое ведет запись практически непрерывно в повседневной жизни.