Компания OpenAI приняла решение отложить официальный запуск своей новой мультимодальной модели искусственного интеллекта под кодовым названием Astra. Как сообщает агентство Bloomberg, программное обеспечение не смогло пройти внутренние протоколы безопасности на том же уровне, который демонстрируют актуальные версии нейросетей компании. Несмотря на технологические успехи в других областях, разработчики сосредоточились на устранении уязвимостей перед глобальным релизом.

Технические достижения и проблема «ленивости»

В ходе тестирования версии, получившей внутреннее обозначение GPT-6.1 Astra, инженеры зафиксировали значительный прогресс в архитектуре ответов. Одной из главных побед стало решение проблемы так называемой «ленивости» модели — состояния, при котором ИИ отказывается выполнять сложные инструкции или выдает неполные результаты. Новая итерация демонстрирует более высокую исполнительность и точность при работе с комплексными запросами пользователей.

Причины задержки и вопросы безопасности

Основным препятствием для выпуска стали отчеты отдела систем безопасности. Руководитель подразделения Саачи Джейн пояснил, что текущая сборка не соответствует жестким внутренним стандартам OpenAI по нескольким направлениям. Особое внимание уделяется механизмам авторизации и корректному соблюдению установленных этических и программных ограничений.

Среди выявленных недостатков специалисты выделяют:

  • Недостаточно эффективная система авторизации действий;
  • Ошибки в соблюдении заданных ограничений контента;
  • Проблемы с обратной связью, когда модель не информирует пользователя о статусе выполнения задачи должным образом.
Модель не оправдала ожиданий компании в том, что касается соблюдения ограничений и авторизации, а также обратной связи с пользователем о проделанной работе, — отметил Саачи Джейн в официальном комментарии.

Дальнейшие перспективы

На текущий момент штаб-квартира OpenAI в Сан-Франциско не называет точных дат выхода Astra в публичный доступ. Приоритетом остается создание надежного барьера против потенциальных злоупотреблений ИИ. Ожидается, что дополнительные циклы обучения и калибровки позволят привести параметры безопасности в соответствие с требованиями регуляторов и внутренними манифестами компании.

Перенос релиза подчеркивает осторожный подход индустрии к внедрению систем следующего поколения на фоне растущего внимания к этике ИИ во всем мире. Несмотря на конкуренцию в Кремниевой долине, безопасность остается ключевым фактором, определяющим готовность продукта к массовому использованию.