Компания Google приняла решение существенно ограничить функционал своих ИИ-обзоров (AI Overviews), исключив из поисковой выдачи рекомендации, касающиеся здоровья и медицины. Поводом для такого шага послужили результаты расследования, которые подтвердили наличие недостоверной и потенциально опасной информации в ответах нейросети.

Причины пересмотра алгоритмов

По данным издания The Guardian, поводом для изменения политики стали случаи, когда искусственный интеллект транслировал советы от непрофессиональных пользователей и сомнительных ресурсов в качестве экспертных мнений. В ходе проверок выяснилось, что алгоритмы могли генерировать вводящие в заблуждение инструкции, способные нанести реальный физический вред здоровью человека.

Основные проблемы, выявленные в ходе анализа выдачи:

  • Использование данных с форумов и из соцсетей вместо проверенных медицинских баз данных.
  • Отсутствие должной фильтрации между бытовыми советами и профессиональными рекомендациями врачей.
  • Высокий риск дезинформации при запросах о симптомах критических заболеваний.

Новая политика безопасности данных

Руководство технологического гиганта из Маунтин-Вью (Калифорния) подчеркнуло, что приоритетом является точность информации, особенно в критически важных сферах. Теперь при попытке получить медицинский совет через встроенный ИИ, система будет чаще перенаправлять пользователя к официальным источникам и авторитетным медицинским порталам.

Компания стремится к тому, чтобы ИИ-функции дополняли поиск, а не становились источником рискованных для жизни рекомендаций, основанных на непроверенном контенте — отмечается в материалах расследования.

На текущий момент ограничения затронули глобальную версию поисковика. Эксперты отрасли полагают, что этот инцидент замедлит повсеместное внедрение генеративных моделей в специализированные сервисы до тех пор, пока не будут разработаны более строгие протоколы верификации медицинских данных. Решение Google подчеркивает растущую проблему галлюцинаций ИИ в вопросах, требующих высокой степени ответственности.