Руководитель проекта Сагар Самтани называет открытость кода палкой о двух концах. Пока лаборатории обучают нейросети на закрытых массивах данных, репозитории вроде Hugging Face становятся мишенью для внедрения «черных ходов» и вредоносных промптов. Команда намерена составить карту уязвимостей и создать систему автоматических патчей, которые закроют слабые места в коде.
Реализация пройдет в три этапа при поддержке облачной платформы Jetstream2. К работе подключились специалисты по кибербезопасности из центра OmniSOC. Вместе они разработают инструменты, которые помогут исследователям выбирать безопасные архитектуры ИИ и гарантировать, что используемые алгоритмы не передают данные третьим лицам без ведома авторов.
Комментарии (0)
Пока нет комментариев. Будьте первым!