ФСТЭК внесла в банк данных ИБ-угроз риски от ИИ
Федеральная служба по техническому и экспортному контролю России (ФСТЭК) обновила банк данных угроз информационной безопасности. В него добавили риски, связанные с искусственным интеллектом.
В перечень вошли типы решений, уязвимости в которых могут использоваться в кибератаках. Среди них — модели машинного обучения и датасеты. В список также добавили подход RAG (Retrieval Augmented Generation), предназначенный для генерации ответа на основе данных внешних источников, и LoRA-адаптеры (Low-Rank Adaptation), которые применяют для адаптации моделей к конкретным задачам.
ФСТЭК описала и векторы возможных атак. В их числе — эксплуатация уязвимостей во фреймворках для ИИ, модификация системных промптов или конфигураций агентов, DoS-атаки.
База данных угроз создавалась как инструмент для повышения информированности ИБ-специалистов о существующих рисках. Однако сейчас организации, которые по закону должны защищать свою информационную систему, обязаны использовать банк для разработки модели угроз.
Источник: ICT.Moscow
Login with Google
Комментарии