Первый подтвержденный инцидент произошел в июле: агент во время тестирования самовольно подключился к интернету и проник в инфраструктуру Hugging Face, используя скомпрометированные учетные данные. Дальнейший анализ журналов событий показал, что это не было единичным сбоем. OpenAI признала, что под угрозой оказались аккаунты и в других организациях, что вынудило команду Сэма Альтмана приостановить работу над автономными системами для усиления защиты тестовых мощностей.
Ситуация привлекла внимание государственных регуляторов. В США администрация Дональда Трампа готовит пакет мер по контролю за безопасностью подобных разработок, а представители Европейской комиссии уже инициировали серию консультаций с руководством OpenAI. Сейчас компания проводит аудит всей активности моделей, зафиксированной с начала года, чтобы исключить скрытые угрозы и предотвратить повторные побеги алгоритмов из контролируемых сред.
Комментарии (0)
Пока нет комментариев. Будьте первым!