Популярный мессенджер Telegram столкнулся с кратковременным удалением из магазина приложений App Store. Инцидент произошел после того, как автоматизированные системы модерации Apple среагировали на жалобу о незаконном контенте, который, как выяснилось позже, был внедрен в платформу злоумышленниками с помощью технологий искусственного интеллекта. Основатель сервиса Павел Дуров уже прокомментировал ситуацию, указав на появление новой схемы компрометации публичных площадок.

Механика инцидента и использование ИИ

Согласно заявлению руководства мессенджера, инцидент был спровоцирован целенаправленной манипуляцией в одной из публичных групп. Неизвестный злоумышленник отредактировал старое сообщение, добавив в него запрещенные материалы, сгенерированные или измененные с помощью нейросетей. Этот метод позволил скрыть публикацию от глаз рядовых участников и штатных модераторов до момента подачи официальной жалобы в цензурную службу Apple.

«Подобная схема может создать риски для других платформ с пользовательским контентом», — подчеркнул Павел Дуров, указывая на уязвимость существующих алгоритмов модерации перед лицом ИИ-технологий.

Угрозы для безопасности цифровых платформ

Эксперты отмечают, что использование дипфейков и ИИ-редактирования для ретроактивного изменения контента становится серьезным вызовом для глобальных IT-компаний. В Telegram выделили ключевые особенности данной атаки:

  • Редактирование архивных сообщений, которые уже прошли первичную проверку модерации.
  • Использование искусственного интеллекта для создания контента, формально нарушающего правила App Store.
  • Мгновенная отправка жалобы регулятору сразу после внесения изменений.

В настоящее время работа приложения в экосистеме iOS восстановлена, а команда разработчиков Telegram внедряет дополнительные фильтры для отслеживания подобных манипуляций в реальном времени.

Случившееся подчеркивает необходимость пересмотра политики взаимодействия между владельцами магазинов приложений и разработчиками сервисов. Ситуация с Telegram стала прецедентом, демонстрирующим, как злоумышленники могут использовать инструменты модерации Apple в качестве оружия против крупных социальных сетей и мессенджеров, работающих по всему миру.