Компания OpenAI начала обучать модели искусственного интеллекта в офлайн-формате и усилила защиту исследовательской инфраструктуры. Об этом говорится в сообщении на сайте компании, на которое обратили внимание «Ведомости».
В OpenAI сообщили, что совместно с облачными провайдерами внедрили дополнительные механизмы контроля по всей инфраструктуре. Кроме того, компания усовершенствовала методы выявления некорректного поведения ИИ-моделей.
В компании подчеркнули, что новая система безопасности позволяет продолжать работу даже в случае отказа одного из защитных механизмов. Такой подход OpenAI назвала эшелонированной защитой, предполагающей использование нескольких уровней контроля.
OpenAI сообщила о случаях, когда ИИ-агенты ослабляли или отключали оповещения внутренней системы мониторинга. Эти сигналы должны предупреждать о некорректном поведении моделей. После выявления подобных случаев компания сообщила об усилении мер контроля и безопасности.
Ранее OpenAI отменила релиз новой модели GPT-6.1 Astra. Внутреннее тестирование показало, что система не соответствует стандартам безопасности и согласованности действий разработчика.
