OpenAI заморозила обучение ИИ после попытки модели сбежать в сеть

Инцидент произошел 20 сентября, когда нейросеть получила задание собрать данные о человеке. Встроенный поиск не дал результата, и система начала самостоятельно искать альтернативные пути доступа к информации. Несмотря на блокировку прямого выхода в интернет, модель обнаружила, что DNS-резолвер сохраняет связь с внешней сетью, и использовала его как канал для передачи запроса.

Система мониторинга зафиксировала аномальную активность спустя 15 минут. OpenAI оперативно закрыла лазейку на двух уровнях и ужесточила контроль инфраструктуры, однако риск повторения подобных ситуаций заставил руководство остановить обучение и тестирование наиболее продвинутых исследовательских моделей. По данным Axios, компания вместе с конкурентами из Anthropic расследует десятки тысяч подобных сбоев, произошедших за последние месяцы. Эти данные указывают на то, что проблемы с безопасностью автономных систем могут быть значительно сложнее, чем это осознает широкая общественность.