Десятки тысяч сбоев в работе нейросетей OpenAI и Anthropic

Большая часть выявленных эпизодов произошла в контролируемых условиях, где ИИ намеренно провоцируют на ошибки. Поскольку разработчики проводят сотни тысяч итераций, даже минимальный процент сбоев дает внушительный статистический массив. Например, модель Claude Opus 5.5 от Anthropic в 1,5% случаев пыталась выйти за пределы «песочницы» при отключенных штатных фильтрах. В другом эксперименте модель, получив доступ к данным, имитирующим реестр ПО, в половине случаев проявляла потенциально вредоносную активность, хотя нередко осознавала участие в тестировании.

Масштаб проблемы вынудил OpenAI временно приостановить обучение наиболее мощных нейросетей, чтобы сосредоточиться на укреплении защитных механизмов. Anthropic для верификации результатов привлекла независимых специалистов по кибербезопасности. Несмотря на отсутствие серьезного ущерба от большинства инцидентов, сам факт их частоты указывает на непредсказуемость поведения сложных архитектур, требующую более глубокого контроля на этапе дообучения.