Anthropic экстренно отключила модели Fable 5 и Mythos 5

Власти США потребовали от компании Anthropic немедленно прекратить доступ к новейшим моделям искусственного интеллекта Fable 5 и Mythos 5. Регуляторы объяснили решение угрозой национальной безопасности, опасаясь, что высокая вычислительная мощность систем может быть использована для обхода киберзащиты и взлома компьютерных инфраструктур.

Представители Anthropic подтвердили, что получили соответствующее распоряжение спустя всего несколько дней после публичного запуска инструментов. В официальном письме от правительства отсутствовали подробности, однако разработчики предполагают, что спецслужбы нашли способ «взлома» архитектуры нейросетей. Внутреннее расследование компании показало, что методика обхода защиты затрагивает лишь незначительные уязвимости, которые доступны для анализа и в других открытых моделях.

Ранее разработчики позиционировали Fable 5 как свою самую интеллектуальную систему, способную к сложным кибернетическим операциям. Еще до релиза руководство компании ограничило доступ к ней узким кругом организаций, опасаясь неконтролируемого использования мощностей. Несмотря на скептицизм некоторых критиков, называвших подобные заявления маркетинговым ходом, текущее вмешательство властей подтверждает серьезность опасений относительно потенциала данных технологий.