Нейросеть обманула проверку крупного сервиса по поиску работы
Группа энтузиастов провела успешный эксперимент по созданию фиктивного работодателя на популярном рекрутинговом портале, используя возможности искусственного интеллекта. В ходе исследования на площадке была зарегистрирована компания, фактически находящаяся в состоянии банкротства, однако благодаря автоматизированным алгоритмам ей удалось не только пройти систему верификации, но и занять лидирующие позиции в рейтинге сервиса.
Технология манипуляции рейтингами
Для реализации схемы авторы эксперимента использовали генеративные языковые модели, которые полностью создали описание компании, наполнили сайт контентом и составили тексты вакансий. Системы модерации портала не распознали искусственное происхождение данных на этапе проверки документов. Основной успех был достигнут за счет применения следующих инструментов:
- Использование сети ботов для автоматической подачи заявок и имитации активности.
- Массовая накрутка положительных отзывов от «сотрудников» и «соискателей».
- Генерация уникального визуального и текстового контента, имитирующего реальный бизнес.
Реакция законодателей и риски для рынка
Данный прецедент вызвал обсуждение в экспертном сообществе и органах государственной власти. Депутат Государственной Думы Ярослав Нилов прокомментировал ситуацию, указав на уязвимость современных коммерческих площадок перед новыми технологическими угрозами.
«Эксперимент подтвердил факты использования ботов для недобросовестной конкуренции на коммерческих площадках. Это создает серьезные риски для соискателей, которые могут столкнуться с мошенничеством», — подчеркнул парламентарий.
Инцидент в Москве продемонстрировал, что верификация по юридическим лицам на текущий момент требует совершенствования, так как существующие фильтры не справляются с идентификацией синтетического контента и скоординированными атаками ботнетов.
Проведенный эксперимент подчеркивает необходимость внедрения более строгих протоколов проверки данных на агрегаторах вакансий. В условиях стремительного развития нейросетей коммерческим платформам придется пересмотреть свои подходы к безопасности, чтобы защитить пользователей от дезинформации и недобросовестной конкуренции в цифровом пространстве.