Компания Anthropic объявила о масштабном обновлении своих ИИ-моделей семейства Claude, которое подразумевает внедрение скрытых маркеров в генерируемый контент. Решение принято в рамках соблюдения международных норм безопасности, включая европейский закон об искусственном интеллекте (AI Act), и направлено на повышение прозрачности использования цифровых технологий.

Скрытая маркировка текста и защита от копирования

Разработчики внедрили уникальную технологию «стенографии» непосредственно в структуру генерируемых слов. В отличие от визуальных меток, эти невидимые водяные знаки невозможно обнаружить при обычном чтении, однако они легко считываются специализированным ПО. Система спроектирована таким образом, чтобы маркеры сохранялись даже после частичного редактирования текста или его копирования в другие редакторы.

Ключевые особенности новой системы идентификации:

  • Маркировка осуществляется на уровне токенов (частей слов).
  • Устойчивость к незначительной переработке и форматированию контента.
  • Глобальный охват: правила применяются ко всем пользователям, независимо от их географического положения.

Стандарты C2PA и работа с файлами

Помимо текстовых сообщений, изменения затронут и файлы, создаваемые или обрабатываемые нейросетью. Anthropic интегрирует стандарт C2PA (Coalition for Content Provenance and Authenticity), который позволяет вшивать в метаданные цифровую подпись. Это решение поддерживается ведущими технологическими компаниями и помогает верифицировать происхождение файлов в интернете.

Внедрение прозрачности ИИ-контента — это важный шаг в реализации европейского AI Act, который создает правовую базу для безопасного развития технологий не только в Европе, но и во всем мире.

Нововведения вступают в силу на фоне растущих требований регуляторов в Европейском Союзе и США к маркировке синтетического контента. Ожидается, что подобные меры помогут в борьбе с дезинформацией и упростят процесс идентификации материалов, созданных нейросетями, в образовательной и медийной сферах.