Комментировать

ФСТЭК внесла в банк данных ИБ-угроз риски от ИИ

Федеральная служба по техническому и экспортному контролю России (ФСТЭК) обновила банк данных угроз информационной безопасности. В него добавили риски, связанные с искусственным интеллектом.

В перечень вошли типы решений, уязвимости в которых могут использоваться в кибератаках. Среди них — модели машинного обучения и датасеты. В список также добавили подход RAG (Retrieval Augmented Generation), предназначенный для генерации ответа на основе данных внешних источников, и LoRA-адаптеры (Low-Rank Adaptation), которые применяют для адаптации моделей к конкретным задачам.

ФСТЭК описала и векторы возможных атак. В их числе — эксплуатация уязвимостей во фреймворках для ИИ, модификация системных промптов или конфигураций агентов, DoS-атаки.

База данных угроз создавалась как инструмент для повышения информированности ИБ-специалистов о существующих рисках. Однако сейчас организации, которые по закону должны защищать свою информационную систему, обязаны использовать банк для разработки модели угроз.

Источник: ICT.Moscow

#искусственный интеллект #кибератаки #ИИ
Комментировать

Комментарии

Комментировать

Вам может быть интересно

118
#цифровизация

«Мозги» российской нейросети и триллионы рублей от ИИ. О чем говорил Мишустин в Алма-Ате

Председатель правительства РФ рассказал об экономическом эффекте от внедрения технологий ИИ в России, отличии российской нейросети от западной ChatGPT и российских предложениях для зарубежных партнеров
21
#росатом

«Росатом» создал тестовые образцы новых материалов с помощью ИИ

Специалисты госкорпорации "Росатом" в 2025 году создали тестовые образцы новых материалов, используя искусственный интеллект для их быстрого автоматизированного синтеза, следует из годового отчета АО "Атомэнергопром" (входит в "Росатом", консолидирует гражданские активы российской атомной отрасли) за 2025 год
86
#образование

«Антиплагиат» добавил в свою платформу возможность выявлять сгенерированный текст и ИИ-ассистента

Компания «Антиплагиат» выпустила «Антиплагиат 2.0» — обновление своей платформы для обнаружения текстовых заимствований

Вы недавно смотрели

8
#законодательство

Госдума утвердила закон о технологическом суверенитете

Госдума приняла закон о технологической политике, который создаёт основу для ускоренного внедрения инноваций, повышения конкурентоспособности и укрепления обороноспособности России
14
#технологии

В России создают оператора промышленных данных для внедрения ИИ

В России началась подготовка к пилотному проекту оператора промышленных данных. Эта инициатива нацелена на создание инфраструктуры для обмена данными между предприятиями, что рассматривается как необходимое условие для широкого внедрения искусственного интеллекта в производство
1366
#методика

Обзор ключевых изменений в Методику № 421/пр

Приказом Минстроя Российской Федерации от 30.01.2024 № 55/пр утверждены очередные изменения в Методику № 421/пр. В предлагаемом Обзоре рассмотрены и проанализированы ключевые изменения