Какова роль ИИ в обнаружении и предотвращении киберугроз: взгляд Алексея Кузовкина

Каждые 39 секунд в мире происходит кибератака. Финансовые потери от преступлений в сети исчисляются триллионами долларов, а масштабы угроз растут: от точечных фишинговых атак до государственных кибервойн. Традиционные системы защиты, основанные на сигнатурном анализе и правилах, напоминают средневековые стены под атакой современной артиллерии — они не успевают адаптироваться к новым тактикам злоумышленников.  Искусственный интеллект — это не просто модный тренд, а необходимость. В отличие от человека, он способен:

•          обрабатывать петабайты данных из сетевого трафика, выявляя аномалии за миллисекунды;

•          учиться на поведении злоумышленников, предсказывая их следующие шаги;

•          автоматизировать до 70 % рутинных задач SOC-аналитиков, позволяя специалистам сосредоточиться на сложных угрозах.

Но ИИ — не волшебная таблетка. Его эффективность зависит от качества данных, а злоумышленники уже учатся обманывать алгоритмы через adversarial-атаки. Кроме того, автономность решений ИИ ставит этические вопросы, например, кто отвечает за ложное срабатывание, заблокировавшее работу больницы?

Как ИИ анализирует угрозы? Машинное зрение для цифрового мира 

От сигнатур к поведенческому анализу: смена парадигмы

Традиционные антивирусы работают как криминальная база данных — ищут известные «отпечатки» вредоносного кода. Но что делать, если хакер изменил всего один байт в файле? ИИ решает эту проблему, переключая фокус со «что» (сигнатура) на «как» (поведение):

•          алгоритмы unsupervised learning выявляют аномалии в действиях пользователей (например, бухгалтер внезапно скачивает гигабайты данных ночью);

•          модели NLP анализируют фишинговые письма, определяя поддельные домены и скрытые эмоциональные манипуляции в тексте («Срочно! Ваш аккаунт будет удален!»).

Пример: в 2024 году ИИ-система Vectra AI обнаружила атаку на энергокомпанию, заметив, что легальный инструмент администратора PowerShell использовался для несанкционированного перемещения в сети — классический признак «живучести» хакеров. 

Реальное время — реальная защита 

Скорость — ключевое преимущество ИИ:

•          сетевой трафик: алгоритмы вроде LSTM-сетей отслеживают миллионы соединений, мгновенно вычисляя DDoS-атаки по аномальным шаблонам запросов;

•          эндпоинты: системы CrowdStrike анализируют поведение процессов, блокируя даже неизвестное ransomware до начала шифрования файлов.

Ложные срабатывания: тонкая настройка 

Главный камень преткновения — баланс между безопасностью и удобством. Переобученная модель может парализовать работу, принимая легитимные обновления за угрозы. Решения:

•          федеративное обучение: ИИ учится на данных множества компаний, не получая доступа к ним (используется в Palo Alto Networks);

•          объяснимый AI (XAI): системы не просто блокируют угрозу, но и показывают аналитикам почему, например, «этот SSL-трафик содержит скрытый DNS-туннель».

Преимущества ИИ перед классическими методами: почему будущее за адаптивными системами

Скорость и масштаб: там, где человек бессилен 

Классические системы кибербезопасности работают по принципу «известных угроз» — они сравнивают активность с базой сигнатур, как полицейский, сверяющий лицо с фотороботом. Но современные хакеры используют:

•          полиморфные вирусы, меняющие код при каждом запуске;

•          атаки нулевого дня, о которых еще нет записей в базах;

•          Low-and-slow-атаки, маскирующиеся под легитимный трафик.

ИИ решает эту проблему:

•          обработка в реальном времени: алгоритмы анализируют до 1 ТБ данных в секунду (например, платформа Splunk);

•          прогнозирование атак: поведенческие модели предсказывают угрозы до их реализации. В 2023 году ИИ Microsoft предотвратил атаку на Azure, заметив аномальную активность в API-запросах за 72 часа до эскалации.

Автоматизация рутины: как ИИ освобождает киберзащитников 

По данным IBM, специалисты SOC тратят 40 % времени на тривиальные задачи:

•          обработка в реальном времени: алгоритмы анализируют до 1 ТБ данных в секунду (например, платформа Splunk);

•          прогнозирование атак: поведенческие модели предсказывают угрозы до их реализации. В 2023 году ИИ Microsoft предотвратил атаку на Azure, заметив аномальную активность в API-запросах за 72 часа до эскалации.

Что меняет ИИ? 

1.         Автоматический triage: системы ранжируют инциденты по критичности. Например, Google Chronicle присваивает угрозам «уровень опасности» и сразу блокирует наиболее рисковые.

2.         Автоответ на угрозы (SOAR): при атаке ИИ не только обнаруживает ее, но и:

•          изолирует зараженные устройства;

•          патчит уязвимости (как в случае с автоматическим обновлением Cisco Umbrella);

•          генерирует отчет для аналитиков — уже с готовым анализом вектора атаки.

Глубокая аналитика: обнаружение скрытых взаимосвязей 

Человек может не заметить, что:

•          вход в систему с одного IP в 3:00 ночи и скачивание базы данных через 15 минут — часть одной атаки;

•          фишинговое письмо и поддельный DNS-запрос пришли из одной хакерской группы.

ИИ видит эти паттерны:

•          графовые нейросети (GNN) выявляют сложные цепочки, как в деле 2024 года, когда алгоритм связал утечку в ретейлере с фиктивным аккаунтом в GitHub, где хранился бекдор;

•          анализ метаданных: даже зашифрованный трафик выдает угрозы через timing-атаки или объем пакетов (например, инструменты Darktrace).

Ограничения: когда ИИ проигрывает? 

Даже у революционных технологий есть слабые места:

•          «слепые зоны» обучения: если ИИ не видел атаку в тренировочных данных, он может ее пропустить (как случилось с редким видом DNS-спуфинга в 2023 г.);

•          ресурсоемкость: для работы сложных моделей нужны мощные серверы — не все компании могут себе это позволить.

Проблема «мусор на входе — мусор на выходе»: зависимость от данных

Ограничения и риски ИИ в кибербезопасности: когда умные системы ошибаются ИИ-модели — лишь зеркало информации, которой их кормят. Ключевые слабости:

•          смещенные обучающие выборки. Если алгоритм тренировали только на атаках из США, он может пропустить аномалии, характерные для азиатских хакерских групп (как произошло с одним из банков Сингапура в 2023 году);

•          устаревшие данные. Модель, обученная на угрозах 2022 года, бесполезна против современных тактик, например, AI-generated phishing (как сервис WormGPT).

Adversarial attacks: как хакеры дурачат ИИ 

Злоумышленники научились «гипнотизировать» алгоритмы:

•          Изменение пикселей. Добавление невидимых глазу шумов в изображение обманывает компьютерное зрение (так в Китае пропустили вредоносный код, замаскированный под QR-чек).

•          Ядовитые данные. Хакеры подбрасывают в обучающие наборы ложные примеры. В 2023 году атака на ИИ-фильтр почты Microsoft привела к тому, что 12 % спама стало проходить как «легитимные письма».

Парадокс: чем сложнее ИИ, тем уязвимее он к таким атакам. Например, генеративные модели (такие как GPT) могут создавать идеальные фишинговые тексты, обходя детекторы. 

Черный ящик: проблема доверия 

Почти 60 % SOC-аналитиков не понимают, как ИИ принимает решения (исследование MIT, 2024). Последствия:

•          ложные блокировки. Алгоритм заблокировал транзакцию клиента, но не объяснил, почему, — в результате компания теряет деньги и репутацию;

•          юридические риски. Кто виноват, если ИИ ошибочно обвинил сотрудника в утечке данных? В ЕС уже готовят закон об «ответственности ИИ в кибербезопасности».

Этические дилеммы: безопасность vs приватность 

•          Тотальная слежка. ИИ для обнаружения угроз требует доступа ко всей корпоративной переписке и метаданным. Где граница между защитой и шпионажем?

•          Дискриминация алгоритмов. В 2023 году система распознавания «подозрительного поведения» в банке чаще флажила сотрудников старше 50 лет — модель считала их «медленные» действия аномалией.

 Что с этим делать? Пути решения 

1.         Гибридные системы. Комбинация ИИ и человеческого надзора (например, IBM Watson требует подтверждения критических решений от аналитика).

2.         Регулярный аудит моделей. Тестирование на adversarial examples и обновление данных (как в рамках инициативы DARPA GARD).

3.         Explainable AI (XAI). Внедрение алгоритмов, которые не только принимают решения, но и аргументируют их простым языком.

ИИ в кибербезопасности — между автоматизацией и человеческим контролем

Искусственный интеллект совершил революцию в обнаружении киберугроз, но не отменил базовых принципов безопасности. Его роль можно сравнить с автопилотом в самолете: он способен вести судно в штатном режиме, но при шторме или неисправности команда берет управление на себя.

Главные выводы: 

1.         ИИ — чемпион по скорости и масштабу. Он анализирует терабайты данных, предсказывает атаки и автоматизирует до 70 % рутинных задач SOC-аналитиков.

2.         Без человека система слепа. Алгоритмы уязвимы к adversarial-атакам, зависят от качества данных и не могут заменить экспертов в расследовании сложных инцидентов.

3.         Будущее — за гибридными моделями. Успешные кейсы (например, Symantec Integrated Cyber Defense) доказывают: объединение ИИ и человеческого опыта дает лучший результат.

Кузовкин Алексей Викторович — IT-предприниматель с колоссальным опытом управления инновационными и IT-проектами, экс-председатель совета директоров группы компаний «Армада»