Коалиция генеральных прокуроров из восьми американских штатов инициировала масштабное судебное разбирательство против компании OpenAI, разработчика популярного чат-бота ChatGPT. Власти обвиняют технологического гиганта в нарушении законов о защите прав потребителей и создании механизмов, которые могут нанести серьезный вред несовершеннолетним пользователям. Истцы утверждают, что алгоритмы искусственного интеллекта способствуют формированию у детей чрезмерного доверия к системе, что влечет за собой непредсказуемые социальные и психологические последствия.

Суть обвинений и регионы-участники процесса

Правовой иск был подан властями следующих штатов: Айдахо, Айова, Аризона, Арканзас, Западная Вирджиния, Канзас, Монтана и Небраска. Согласно материалам дела, ключевая претензия заключается в недостаточном контроле над выдачей контента, который может быть опасен для жизни и здоровья. По данным NBC News, прокуроры настаивают на том, что OpenAI не предприняла адекватных мер для предотвращения использования сервиса в деструктивных целях.

В ходе расследования были выявлены следующие критические риски при взаимодействии подростков с ИИ:

  • Генерация советов, подталкивающих к совершению самоубийства.
  • Предоставление непроверенных и опасных медицинских рекомендаций.
  • Инструкции по созданию условий, способных причинить вред окружающим людям.

Проблема доверия и ответственности разработчика

Одной из главных проблем, обозначенных в иске, является антропоморфизация чат-бота, из-за которой дети воспринимают ИИ как надежного собеседника или эксперта. Это приводит к снижению критического мышления у молодежи и готовности следовать любым инструкциям, полученным от программы. Прокуроры подчеркивают, что бизнес-модель компании в ее текущем виде игнорирует базовые принципы детской безопасности в цифровой среде.

Чат-бот может вызвать иллюзию понимания и поддержки, что особенно опасно для психически нестабильных подростков.

Судебный процесс может создать прецедент для ужесточения государственного регулирования сферы искусственного интеллекта в Соединенных Штатах. На данный момент OpenAI официально не прокомментировала детали иска, однако эксперты ожидают, что это дело приведет к внедрению новых протоколов верификации возраста и фильтрации потенциально вредоносных ответов. Мониторинг подобных инцидентов становится приоритетной задачей для надзорных органов на фоне стремительного распространения нейросетей.