Российские разработчики систем искусственного интеллекта (ИИ) получат механизм верификации своих алгоритмов на соответствие законодательству и духовно-нравственным нормам. Как сообщают «Ведомости», инициатива по созданию независимой испытательной лаборатории для тестирования фундаментальных моделей получила поддержку в Минцифры. Проверка будет направлена на обеспечение безопасности контента, генерируемого большими языковыми моделями.

Механизмы тестирования и бенчмарки

Вместо принятия новых жестких законодательных актов, регулирующих этическую составляющую ИИ, регулятор планирует использовать гибкий подход. Оценка алгоритмов будет проводиться на основе специальных бенчмарков — наборов тестов и критериев, которые профильное ведомство разработает совместно с представителями ИТ-индустрии. Бенчмарки позволяют количественно и качественно оценить реакцию нейросети на сложные или провокационные запросы.

Ключевые аспекты новой системы проверки включают:

  • Интеграцию систем автоматизированного тестирования для разработчиков.
  • Привлечение экспертов-лингвистов и социологов в рамках деятельности лаборатории.
  • Создание реестра «доверенных моделей», прошедших верификацию.

Взаимодействие государства и бизнеса

Разработка системы оценки проходит в рамках диалога между государственным сектором и крупнейшими технологическими компаниями страны. Ранее лидеры рынка уже подписали Кодекс этики в сфере ИИ, однако создание независимой лаборатории станет следующим шагом в сторону стандартизации отрасли. Подобная практика призвана минимизировать риски генерации деструктивного контента, который может противоречить действующему законодательству Российской Федерации.

Проверку соответствия больших моделей искусственного интеллекта закону и духовно-нравственным ценностям планируют передавать в независимую испытательную лабораторию

Ожидается, что внедрение механизмов независимой оценки повысит доверие пользователей к отечественным ИТ-продуктам и позволит компаниям легитимизировать использование нейросетей в государственном и корпоративном секторах. Финальные требования к бенчмаркам и детальный регламент работы испытательного центра должны быть представлены после завершения консультаций с экспертным сообществом.