Традиционные методы обучения кибербезопасности теряют эффективность в эпоху генеративного ИИ

Аналитики компании Gartner отмечают, что привычные модели повышения осведомленности сотрудников в вопросах информационной безопасности перестали справляться с современными угрозами. Развитие генеративного искусственного интеллекта (GenAI) кардинально изменило ландшафт рисков, сделав человеческий фактор критической уязвимостью бизнеса.

Расширение зоны человеческого риска

Более 86% компаний уже тестируют или активно внедряют инструменты на базе генеративного ИИ. Поскольку корпоративные процессы часто опережают официальное утверждение политик безопасности, сотрудники начинают использовать нейросети для рабочих задач самостоятельно. Это явление, получившее название «теневой ИИ», создает серьезные угрозы для корпоративных данных.

• Свыше 57% сотрудников используют личные учетные записи ИИ для выполнения рабочих обязанностей.
• Около 33% специалистов признаются, что вводили конфиденциальную рабочую информацию в публичные или несанкционированные инструменты ИИ.
• 35% организаций уже столкнулись с атаками с использованием дипфейков.
• Объем фишинговых атак с применением ИИ удвоился за последние два года.

Почему классические тренинги больше не работают

Традиционные программы обучения, основанные на периодических инструктажах и общих советах вроде «не переходите по подозрительным ссылкам», оказались бессильны против новых методов атак. Генеративный ИИ снизил эффективность таких методов по нескольким причинам:

• Сложность обнаружения: созданный ИИ контент часто неотличим от легитимной деловой переписки.
• Скорость и масштаб: автоматизация позволяет злоумышленникам создавать персонализированные атаки массово и практически мгновенно.
• Новые виды угроз: классические курсы не обучают противодействию инъекциям промптов (вредоносным запросам к ИИ) или рискам случайной утечки данных через чат-ботов.

Переход от обучения к управлению поведением

Эксперты Gartner подчеркивают необходимость перехода к программам формирования безопасного поведения (SBCP). Вместо проверки теоретических знаний, фокус смещается на то, как сотрудники действуют в реальных ситуациях. Цель заключается не в ограничении использования ИИ, а в создании условий для безопасной работы с ним.

Основные элементы современного подхода включают:

• Интеграцию защиты в ежедневные рабочие процессы, а не разовые тренинги.
• Внедрение симуляций, имитирующих атаки с использованием дипфейков и ИИ-фишинга.
• Создание четких, понятных регламентов работы с данными и инструментами ИИ.
• Непрерывную обратную связь и оперативное реагирование на подозрительную активность.

Культурный сдвиг как основа безопасности

Стремление решить проблему исключительно техническими средствами — установкой новых фильтров или запретительных политик — не приносит желаемого результата. В условиях, когда сотрудники воспринимают ограничения как препятствие для продуктивности, они будут искать способы их обойти.

По мнению аналитиков, компаниям необходимо сфокусироваться на культурных изменениях. Информационная безопасность должна стать инструментом, помогающим сотрудникам действовать ответственно, а не барьером. Успех в защите бизнеса в эпоху ИИ зависит не только от уровня знаний персонала, но и от способности организаций выстраивать предсказуемое и безопасное поведение сотрудников в критические моменты принятия решений.

* — деятельность компании запрещена на территории РФ