В России внедрят проверку нейросетей на соответствие традиционным ценностям
Российские разработчики систем искусственного интеллекта (ИИ) получат механизм верификации своих алгоритмов на соответствие законодательству и духовно-нравственным нормам. Как сообщают «Ведомости», инициатива по созданию независимой испытательной лаборатории для тестирования фундаментальных моделей получила поддержку в Минцифры. Проверка будет направлена на обеспечение безопасности контента, генерируемого большими языковыми моделями. Механизмы тестирования и бенчмарки Вместо принятия новых жестких законодательных актов, регулирующих этическую составляющую ИИ, регулятор планирует использовать гибкий подход. Оценка алгоритмов будет проводиться на основе специальных бенчмарков — наборов тестов и критериев, которые профильное ведомство разработает совместно с представителями ИТ-индустрии. Бенчмарки позволяют количественно и качественно оценить реакцию нейросети на сложные или провокационные запросы. Ключевые аспекты новой системы проверки включают: Интеграцию систем автоматизированного тестирования для разработчиков.Привлечение экспертов-лингвистов и социологов в рамках деятельности лаборатории.Создание реестра «доверенных моделей», прошедших верификацию. Взаимодействие государства и бизнеса Разработка системы оценки проходит в рамках диалога между государственным сектором и крупнейшими технологическими компаниями страны. Ранее лидеры рынка уже подписали Кодекс этики в сфере ИИ, однако создание независимой лаборатории станет следующим шагом в сторону стандартизации отрасли. Подобная практика призвана минимизировать риски генерации деструктивного контента, который может противоречить действующему законодательству Российской Федерации. Проверку соответствия больших моделей искусственного интеллекта закону и духовно-нравственным ценностям планируют передавать в независимую испытательную лабораторию Ожидается, что внедрение механизмов независимой оценки повысит доверие пользователей к отечественным ИТ-продуктам и позволит компаниям легитимизировать использование нейросетей в государственном и корпоративном секторах. Финальные требования к бенчмаркам и детальный регламент работы испытательного центра должны быть представлены после завершения консультаций с экспертным сообществом....