Anthropic выявила попытки использования ИИ для создания биооружия
Компания Anthropic, один из лидеров в области разработки искусственного интеллекта, опубликовала отчет о безопасности, в котором зафиксированы случаи эксплуатации нейросетей для проектирования опасных биологических агентов. Специалисты по кибербезопасности выявили пять инцидентов, в ходе которых злоумышленники пытались обойти защитные протоколы с целью получения инструкций по созданию и модификации патогенов. Данные отчеты подчеркивают растущие риски использования генеративных моделей в сфере биотехнологий. Эксперименты с вирусами и токсинами Согласно технической документации, предоставленной ИТ-лабораториями в Сан-Франциско, наиболее тревожные попытки были связаны с генетической модификацией известных заболеваний. Злоумышленники стремились использовать вычислительные мощности ИИ для следующих целей: Поиск способов усиления вируса чикунгунья, вызывающего острую лихорадку;Исследования по адаптации штаммов птичьего гриппа к организму млекопитающих, что потенциально может привести к межвидовой передаче инфекции;Разработка цифровой базы данных пептидных ядов для синтеза токсичных веществ. Птичий грипп (H5N1) при определенных мутациях представляет серьезную угрозу для общественного здравоохранения, так как обладает высокой летальностью при низком уровне естественного иммунитета у людей. Меры безопасности и регулирование отрасли В ответ на выявленные угрозы Anthropic внедрила дополнительные фильтры и механизмы проверки запросов, связанных с вирусологией и токсикологией. Мы фиксируем попытки использования моделей для биологического дизайна и постоянно совершенствуем наши системы классификации рисков, чтобы предотвратить предоставление опасной информации — отмечается в сводке компании. Эксперты отрасли настаивают на необходимости глобального мониторинга, так как возможности больших языковых моделей (LLM) в анализе молекулярных структур могут быть использованы не только для поиска лекарств, но и для деструктивных целей. Обнаруженные инциденты подтверждают прогнозы аналитиков о том, что биологическая безопасность станет критическим направлением в регулировании искусственного интеллекта до конца текущего десятилетия. На текущий момент компании-разработчики сотрудничают с государственными органами для создания «красных линий», ограничивающих доступ нейросетей к закрытым научным протоколам двойного назначения....