Как искусственный интеллект помогает и препятствует кибербезопасности

Искусственный интеллект (ИИ) снова меняет правила игры — с одной стороны, он обеспечивает компаниям более надёжную защиту от киберпреступников, а с другой — даёт хакерам и цифровым мошенникам новое оружие.

Системы обнаружения, основанные на поведении

До эпохи искусственного интеллекта эксперты по кибербезопасности использовали инструменты обнаружения на основе сигнатур. Сигнатура — это уникальный код или идентификатор, состоящий из последовательности байтов или инструкции. Представьте, что это ДНК.

Инструменты обнаружения на основе сигнатур распознают множество типичных сигнатур. При обнаружении подозрительной активности они сравнивают её с библиотекой известных сигнатур и уведомляют пользователей в случае совпадения.

С другой стороны, есть очевидное ограничение: что, если атака новая и система с ней не знакома? В такой ситуации инструмент обнаружения на основе сигнатур оказывается в тупике.

В случае с неизвестными угрозами машинное обучение (ML) и статистический искусственный интеллект могут помочь — не только проверить сигнатуру, но и заглянуть дальше.

ИИ может анализировать вредоносные или необычные модели поведения в больших объёмах трафика данных, например, последовательность попыток ввести пароль. Он может массово и точно выявлять эти проблемы, сокращая количество ложных срабатываний.

Нужно отслеживать не только один тип атак — существует множество векторов атак, в том числе вредоносное ПО, эксплойты нулевого дня, фишинг, программы-вымогатели, атаки типа «отказ в обслуживании» (DDos), внутренние угрозы или продвинутые постоянные угрозы (APT).

Усовершенствованные системы обнаружения вторжений

Система обнаружения вторжений управляет цифровой безопасностью организации. Она включает в себя методы и способы обнаружения кибератак, их блокирования и информирования сотрудников о потенциальных уязвимостях и мерах по снижению рисков.

Инструменты обнаружения на основе сигнатур доказали свою неэффективность в условиях современного кибермира. Сегодня эти системы защиты должны быть оснащены средствами поведенческого обнаружения.

Информация об угрозах

Генеративный ИИ позволяет специалистам по кибербезопасности быстро сканировать код и сетевой трафик и выявлять любые уязвимости. Google Cloud Security AI Workbench работает на большой языковой модели (LLM) Sec-PaLM. Он содержит набор инструментов на основе ИИ, которые обнаруживают, обобщают и устраняют угрозы безопасности. Специалисты по безопасности изучают поведение потенциально вредоносных скриптов.

Надежные пароли

ИИ может помочь в разработке надёжных паролей, которые сложно взломать. PassGPT — это алгоритм, использующий большие языковые модели и обученный на миллионах утечек и взломанных паролей в интернете.

В результате система может сначала спрогнозировать вероятность взлома, а затем создать сложный пароль с прогрессивной выборкой. Система создаёт каждый новый символ отдельно.

Каковы проблемы искусственного интеллекта и кибербезопасности?

Качество исторических данных, на которых ИИ обучается, может быть неоднозначным. Машинное обучение будет давать сбои, если входная информация содержит ошибки и противоречия. Поэтому поддержание чистоты данных должно быть приоритетом. Специалисты по разработке должны регулярно проводить тесты целостности и проверять ключи шифрования.

ИИ помогает бороться с кибератаками, но хакеры также используют ИИ для создания ещё более изощрённых мошеннических схем. Из-за ИИ появились «заражение данных» и дипфейки. ИИ одинаков для всех, но цели у всех разные.