Использование технологии искусственного интеллекта, нейросетей и машинного обучения в сфере инфобез-решений становится все актуальнее. С одной стороны, эти инновации дают киберзлоумышленникам в руки новые, более эффективные инструменты. С другой — они открывают новые перспективы и для защиты от действий хакеров. Однако эксперты дискуссий Gis Days 2023 уверены: переоценивать возможности ИИ не стоит — они все еще невелики. О том, какова на данный момент роль ИИ в инфобез-продуктах и насколько им можно доверять — в интервью РБК+ Петербург рассказали эксперты компании «Газинформсервис»: заместитель генерального директора Роман Пустарнаков и заместитель генерального директора, технический директор Николай Нашивочников.
Учетчик пеликанов
— Насколько активно на данный момент в инфобез-решениях используются нейросети и искусственный интеллект?
Роман Пустарнаков: Разработчики решений для обеспечения инфобезопасности, разумеется, смотрят возможности применения искусственного интеллекта и даже уже применяют его в своих решениях. Но подобные продукты только выходят на рынок. И, как все новые разработки, они еще незрелые. Для их тиражирования и совершенствования нужны накопленные практики использования. Бизнес готов подобные продукты тестировать, так что процесс идет, но моментально ситуация, конечно, не изменится. К тому же сфера ИБ достаточно консервативна — непроверенные решения без доказанной эффективности в массовом порядке никто внедрять не будет.
— А сама технология уже достаточно развита для того, чтобы использоваться в ИБ-сфере? Возможно, ИИ скоро заменят специалистов по инфобезопасности?
Николай Нашивочников: Буквально в начале октября в СМИ была опубликована новость о том, что в Московском зоопарке научили искусственный интеллект считать пеликанов. Оказывается, у людей на эту задачу уходила неделя, а результат все равно был приблизительным. Нейросеть же справилась с задачей за 30 миллисекунд. Это впечатляет. Я допускаю, что данную задачу можно полностью передать нейросети. Я охотно верю, что, если в зоопарке есть отдельная должность учетчика пеликанов, то она сейчас находится под угрозой исчезновения. Но скорее всего, даже в этом случае подсчет — лишь одна из задач специалистов, так что в действительности им ничего не угрожает.
Если честно, то я пока не верю в генеративный искусственный интеллект. Я буду говорить как есть: большие языковые модели на текущий момент попросту глупые. Да, их можно использовать для решения каких-то специфичных задач. Но мы же понимаем, что учились они, по большому счету, на какой-то свалке информации. Насколько они могут быть прогнозируемы — вопрос открытый. Об этических моментах, о границах применения обученной на таких данных модели и об ответственности тут тоже говорить не приходится. Попросить умную колонку включить песни любимой группы, открыть отчет аналитиков и вывести топ-10 уязвимостей, чтобы использовать эти данные в работе — можно. Но собственно ИБ-специалисты и уж точно директора по информационной безопасности не под угрозой увольнения.
Контролируемое обучение
— Вы уже затронули тему данных для обучения ИИ. Но это же не единственная проблема, сдерживающая применение ИИ в инфобезопасности?
Роман Пустарнаков: Проблем действительно целый комплекс. Прежде всего, работу искусственного интеллекта должен контролировать человек, потому что в противном случае непонятно, кто будет нести ответственность за то, что сделал ИИ или какие решения принял. Во-вторых, искусственный интеллект нужно очень внимательно обучать, чтобы он делал корректные и правильные выводы и действия. Если контроля за обучением и действиями не будет, ИИ может пойти не тем путем: его действия будут неправильными или даже злонамеренными. Риски этого очень высоки.
А если уж заговорили про данные, то есть еще один критичный риск. Если ИИ будет использовать какие-то внутренние данные компании или организации, то необходимо обеспечивать их дополнительную защиту, чтобы не было утечек. Т.е. в любом случае внедрение ИИ должно быть контролируемым и аккуратным.
— Это означает, что «Газинформсервис» пока не использует ИИ в своих решениях?
Николай Нашивочников: Почему же? Мы активно работаем в этом направлении — причем еще с 2018 года. Например, на прошедшей в мае этого года кибербитве The Standoff мы продемонстрировали успешный кейс. Это киберполигон, на котором воссозданы условия и процессы одной из отраслей. Так вот наш анализатор на базе ИИ был интегрирован в инфраструктуру полигона. И две из десяти атак были выявлены именно с его помощью. За счет этого мы сэкономили два часа. А два часа на киберполигоне — это двое суток в реальной инфраструктуре.
— Этого достаточно?
Николай Нашивочников: Мировая практика показывает, что после проникновения в инфраструктуру злоумышленники остаются в ней в среднем на 16 дней. Восемь лет назад этот срок был кратно больше — до 100 дней. Так что позитивная динамика есть. Но и за эти 16 дней преступники могут успеть натворить очень многое. Наша задача — минимизировать этот срок, максимально быстро выявить проникновение. И если мы можем сэкономить пару дней — это хороший результат.
— Мы все время смотрим на ИИ с точки зрения инфобеза, а готов ли бизнес к использованию ИИ?
Роман Пустарнаков: Интерес со стороны бизнеса высок. Коллеги хотят про ИИ слушать, стараются разобраться в теме – это, кстати, подтверждается количеством участников форума Gis Days — у нас большое количество докладов было посвящено именно вопросам использования искусственного интеллекта и в инфобезопасности, и в информационных технологиях. При этом разбираться в деталях, как работает то или иное ИИ-решение, бизнес-пользователям не нужно — мы же можем водить машину, не зная, как работает коробка передач, усилитель руля или система впрыска топлива. Так вот искусственный интеллект — это тоже нечто, условно говоря, находящаяся «под капотом».
И самое главное: к ИИ стоит относиться как очередной ступени технологической эволюции. Сначала была автоматизация, роботизация, сейчас — искусственный интеллект. Это все технологии, которые помогают снизить роль человеческого фактора и повысить эффективность процессов. Я думаю, об использовании ИИ в ближайшее время придется задуматься всем тем, кто беспокоится о своей информационной безопасности, у кого есть риски по нарушению конфиденциальности, целостности информации, а также тем, кто дорожит своей информацией, для кого она играет существенную роль в бизнесе.