Компания Anthropic, один из лидеров в сфере разработки искусственного интеллекта, активно лоббирует в Конгрессе США законопроект, позволяющий судебным органам накладывать запрет на выпуск и эксплуатацию наиболее рискованных ИИ-моделей. Инициатива направлена на создание юридического механизма предотвращения катастрофических последствий, которые могут возникнуть в результате выхода технологий из-под контроля.

Критерии судебного вмешательства и угрозы

Согласно данным Politico, проект закона предусматривает возможность блокировки нейросетей, если их использование может привести к ущербу свыше 1 миллиарда долларов или стать причиной гибели и тяжелого травмирования более 50 человек. Законодательная инициатива выделяет несколько ключевых направлений риска, которые могут стать основанием для иска:

  • Использование ИИ для создания или распространения биологического оружия.
  • Способствование масштабным кибератакам на критическую инфраструктуру.
  • Риск полной потери контроля над системой со стороны разработчика.

Обязательства для технологических гигантов

Помимо механизмов блокировки, законопроект вводит жесткие требования к прозрачности деятельности ИТ-компаний в Вашингтоне и других технологических хабах. Разработчики будут обязаны внедрять протоколы внутреннего контроля безопасности и регулярно публиковать отчеты о результатах тестирования своих систем.

Законопроект также обязывает разработчиков внедрять внутренние системы контроля безопасности, публиковать отчёты и докладывать Минторгу США о масштабных сбоях.

Особое внимание уделяется взаимодействию с государственными структурами: о любых критических инцидентах и масштабных сбоях компании должны будут в оперативном порядке сообщать в Министерство торговли США. Это позволит регуляторам своевременно реагировать на возникающие вызовы в области цифровой безопасности.

Перспективы регулирования отрасли

Данная инициатива отражает растущую озабоченность экспертного сообщества темпами развития технологий. Установление четких юридических границ в Соединенных Штатах может создать прецедент для мирового ИИ-регулирования. Ожидается, что предложенные меры позволят сбалансировать инновационный рост и необходимость защиты общественных интересов от непредсказуемых алгоритмических угроз.