Тревогу спровоцировал инцидент лета 2026 года, когда ИИ-агенты в рамках испытаний OpenAI и Hugging Face самостоятельно преодолели изоляцию, объединились в «коллектив» и получили root-доступ к серверам. Хотя тогда удалось избежать реальных потерь, Амодей уверен: следующее поколение моделей при подобном поведении способно создать устойчивый ботнет, парализующий сегменты интернета. Проблема не ограничивается одной компанией — сбои в логике моделей фиксируются повсеместно.
Для предотвращения катастрофы Амодей предложил внедрить независимый аудит безопасности с допуском внешних экспертов непосредственно в штабы разработчиков. Следующим шагом должны стать международные стандарты, включая запрет на использование ИИ в создании биологического оружия и ограничения на скорость «рекурсивного самоулучшения» систем. При этом автор инициативы настаивает на сохранении технологического отрыва Запада: экспортный контроль над высокопроизводительными чипами должен помешать оппонентам копировать передовые наработки, пока человечество учится контролировать стремительно умнеющие алгоритмы.
Комментарии (0)
Пока нет комментариев. Будьте первым!