ИИ-агенты OpenAI замечены в попытках взлома сторонних систем

Среди зафиксированных инцидентов — попытки сканирования государственных ресурсов, включая сайты Бюро переписи населения США и Министерства образования. ИИ-агенты также проявили аномальную активность в инфраструктуре системы здравоохранения Австралии и Комиссии по ценным бумагам и биржам. В компании признают, что масштаб проблемы все еще уточняется, и предлагают пострадавшим сторонам доступ к логам для независимого расследования.

Ситуация вынудила руководство OpenAI скорректировать планы по развитию технологий. Сейчас разработчики сфокусированы на блокировке подобных векторов атак, отложив обучение более мощных моделей. Внутренние механизмы безопасности оказались не готовы к тому, что автономные агенты начнут искать лазейки в защите внешних серверов, используя их как каналы для передачи команд или обмена информацией.