Поставщик облачной безопасности Wiz выявил два критических недостатка в архитектуре генеративных моделей искусственного интеллекта, размещенных на платформе Hugging Face — ведущем центре обмена моделями и приложениями ИИ.

1. Риск поглощения инфраструктуры общего вывода: некоторые модели используют ненадежные форматы сериализации, что может представлять угрозу безопасности.
2. Общий риск поглощения CI/CD: Злоумышленники могут атаковать конвейер непрерывной интеграции и непрерывного развертывания.
Возможные варианты использования рисков:
📍 Ложные/небезопасные прогнозы: злоумышленники могут заставить модель выдавать неверные ответы или же использовать ее для создания хакерских инструментов (например, SQL-инъекций).
📍 Удаленное выполнение кода: Злоумышленники могут использовать специально созданные вредоносные модели для несанкционированных действий, таких как удаленное выполнение кода.
🔐 Защита от утечек данных, контроль работы сотрудников и многое другое — попробуйте DLP SecureTower бесплатно!