Умные очки Ray-Ban Meta, оснащенные функциями искусственного интеллекта, оказались в центре скандала, связанного с конфиденциальностью данных. Согласно расследованию издания Svenska Dagbladet, конфиденциальные аудиозаписи, фотографии и видеоролики пользователей анализируются сторонними модераторами в Восточной Африке для обучения нейросетей.

Аутсорсинг модерации в Кении

Обработкой данных занимается компания Sama, чей офис расположен в Найроби (Кения). Сотрудники этого подрядчика выполняют роль «разметчиков» данных, вручную проверяя контент, который пользователи отправляют через интерфейс мультимодального ИИ. Несмотря на то что лицензионное соглашение Meta предусматривает возможность ручной проверки взаимодействий, многие владельцы устройств не осознают масштабов доступа посторонних лиц к их частной жизни.

  • Проверка включает в себя анализ голосовых команд и визуальных образов.
  • Сотрудники классифицируют объекты на фото для повышения точности ИИ.
  • В системе отсутствуют эффективные фильтры для автоматического сокрытия интимного контента.

Проблемы приватности и утечка личной информации

Работа модераторов сопряжена с просмотром крайне чувствительных материалов. Один из сотрудников Sama на условиях анонимности сообщил о характере данных, которые попадают на экраны мониторов в кенийском офисе. По его словам, система не делает различий между общедоступными местами и приватной обстановкой.

Мы регулярно видим записи из спален, кадры с переодеванием, личную переписку на экранах смартфонов и даже данные банковских карт, которые случайно попали в объектив очков.

Правовые аспекты и безопасность

Юристы отмечают, что текущие настройки приватности в смарт-очках не обеспечивают должной защиты от попадания в выборку материалов сексуального характера или финансовой информации. Хотя корпорации заявляют об анонимизации данных, само наличие человеческого фактора при обработке визуального потока из личного пространства пользователей создает серьезные риски несанкционированного использования информации.

Ситуация вокруг Sama и Ray-Ban подчеркивает глобальную проблему развития ИИ: для высокой точности алгоритмов по-прежнему требуется низкооплачиваемый ручной труд людей, зачастую находящихся в других странах и имеющих доступ к деталям частной жизни миллионов пользователей по всему миру. На данный момент разработчики не представили обновлений, которые могли бы автоматически блокировать передачу чувствительных кадров на проверку модераторам.