Вебинар «Карта киберугроз: как ИИ меняет ландшафт атак на регионы России» руководитель подразделения телекоммуникационной компании начал с разговора про искусственный интеллект.

Крах искусственного интеллекта?

«На мой взгляд, тема искусственного интеллекта сейчас сильно перегрета. Понятно, что технология находится на пике своей популярности. Всем очень много обещают, очень много надежд с ней связывают. Я же смотрю аккуратно на этот вопрос. Когда тему начинают очень сильно перегревать, то начинают размываться границы понимания того, что нам предлагают под темой искусственного интеллекта, где он может быть полезен, а где с ним могут возникнуть сложности», — отметил Михаил Савельев.



Эксперт констатировал, что волна хайпа на теме ИИ — не первая. Впервые про искусственный интеллект заговорили еще в 1930-1940-х годах прошлого столетия. Фантасты и футурологи развивали тему «думающей машины», которая сможет самостоятельно принимать решения, помогать человеку. Однако технологической основы и возможности для ее создания в те времена не было.

В 1970-е годы с появлением компьютеров человечество вновь вспомнило про создание искусственного интеллекта. Но и эта попытка оказалась провальной — не хватило мощностей существующих машин. Было много прогнозов, фантазий, но все это упиралось в невозможность реализации идеи.

В XXI веке машины усовершенствовали, появились мощные производительные средства, возможностей для внедрения в повседневную жизнь искусственного интеллекта стало гораздо больше. Поэтому Михаил Савельев назвал современный период в истории компьютеров и интернета «третьим пришествием ИИ».

Сейчас созданы и дорабатываются роботы, нейросети генерируют контент. Люди счастливы — они «оживляют» с помощью ИИ фотографии, «сочиняют» песни, «пишут» книги. Однако, по словам директора департамента методологии информационной безопасности «Ростелекома», специалисты, в том числе и он, ожидают некоей «ямы» в этом процессе, падения технологии из-за массы существующих проблем.



«В первую очередь, мы еще не договорились о том, что такое искусственный интеллект, но рассуждаем, что он заменит людей, строим прогнозы, какие профессии вымрут, когда внедрят повсеместно ИИ. В параллели к этому, в искусственный интеллект вливают много инвестиций. Однако затраты на создание дата-центров, обеспечивающих работу нейросетей, которые несут компании, вдвое превышают те деньги, которые они планируют заработать. Это долго не продлится», — констатировал Михаил Савельев.

Специалист подчеркнул, что, согласно исследованиям, 80% стартапов, связанных с ИИ, которые появляются на рынке, оказываются неуспешными.

«Это больший процент, чем по другим технологиям. Это тоже важный и тревожный звоночек», — отметил эксперт.

Относительно увольнения людей, истребления профессий, которые может заменить искусственный интеллект, Михаил Савельев спокоен. Он привел пример с бухгалтерией. Раньше на крупных предприятиях в данном отделе трудилось в среднем 20 человек. Работали они вручную. Сейчас из-за автоматизации процесса, компьютеризации — два-три. Однако, напоминает специалист, появились и другие вакансии, которые обязаны обеспечивать рабочую схему функционирования той же бухгалтерии. А именно – программисты, дорабатывающие программы под нужды конкретного предприятия, администраторы и так далее.

«Мы не упразднили бухгалтерию, мы ее перераспределили. Бухгалтеров заменили на более дорогих программистов, которых нужно обучать, воспитывать. Поэтому предприятия не сильно сократили расходы на бухгалтерию», — отметил Михаил Савельев.

Другие опасения вызывает ИИ в сфере медицины. Сейчас искусственный интеллект способен анализировать снимки, «читать» кардиограммы. По результатам анализа, проведенного ИИ, врачи ставят диагноз.

«С одной стороны, это классно, увеличивается скорость обработки информации. Врачу сразу выдается вердикт относительного пациента. Но есть и минусы. Меня пугает другое. Сначала врачи по инерции будут пересматривать снимки. Затем, если удастся хорошо обучить модель, и она будет выдавать хорошую информацию, врачи начнут слепо доверять мнению ИИ и ставить диагнозы, выбирать пути лечения на основании данных искусственного интеллекта. А потом может возникнуть поколение врачей, которое никогда само не смотрело на снимок, соответственно, не умеет его трактовать, слепо доверяя только мнению ИИ. Нам придется потом переобучать модель. Однако мы столкнемся с тем, что нет врачей, которые смогут разметить снимки для обучения следующего поколения искусственного интеллекта», — отметил эксперт.

Сложность здесь состоит еще и в том, что модель ИИ должна постоянно совершенствоваться. Но на благодатной почве слепого доверия искусственному интеллекту человек ничего не сможет ему дать. Тем самым мир попадет в ловушку, где машину будет некому обучать. По словам специалиста, этот кризис наметился уже сейчас.

Эксперт отмечает, что на данный момент появление новых «нейронок» приостановлено. С рынка уходят мелкие игроки, остаются только крупные, чьи разработки требуют производительных ЦОДов (Центров обработки данных), которые не всем по карману.

Также существует проблема базы знаний. По словам эксперта, уже кончаются данные, на которых могут учиться нейросети, так как ту информацию, которой обладает человечество на сегодняшний день, ИИ уже усвоил. В скором времени, по словам Михаила Савельева, искусственный интеллект начнет анализировать данные, сгенерированные им же самим. А это может привести к некоторым «галлюцинациям», когда ИИ, например, будет выдавать другой цвет неба, потому что пользователи задавали такой промпт нейросети, а она, в свою очередь, генерировала такие картинки.

Кибербезопасность

На вебинаре также рассмотрели тему киберугроз. Количество атак в России неуклонно растет. По словам эксперта, это связано все с тем же искусственным интеллектом, который сканирует компьютеры, зарегистрированные в Сети, выявляет их уязвимость, и атакует. Если раньше на это уходил в среднем месяц, то сейчас ИИ способен справиться с данной задачей за считанные секунды. Причем как таковой атакой это может не являться. Некоторые случаи связаны с эмуляцией процесса. Также искусственный интеллект автоматизирует работу злоумышленников.

Михаил Савельев отметил, что в сфере информационной безопасности ничего принципиально нового не происходит. Если раньше антивирус работал по заданным алгоритмам, то и сейчас действует согласно написанной программе. Просто в данный момент ее называют «интеллектом».

Вызывают опасения и растущее число фишинговых сайтов (выманивание паролей, личных данных, банковских реквизитов через копии известных сайтов, по дизайну идентичных настоящим). Эксперт привел пример, когда коллега, специалист по информационной безопасности, приехал погостить в небольшой городок к матери. Чтобы скоротать время, зашел на сайт знакомств и начал общаться с девушкой. Общение с ней ему понравилось. Девушка предложила молодому человеку сходить вместе на концерт и отправила ссылку для приобретения билетов.

Будучи специалистом в области кибербезопасности, мужчина насторожился и отказался от покупки, впоследствии выяснив, что и общался он не с реальной девушкой, а с ботом, который анализировал интересы пользователя и на их основе строил общение для того, чтобы вызвать эмоциональный отклик у собеседника.

«Мне видится, что это все-таки не искусственный интеллект, а очень хорошие алгоритмы, которые действительно осуществляют выбор тем, генерацию изображений и так далее. Но все-таки все это алгоритм. Управляет этим в итоге пока еще человеческий интеллект», — подчеркнул директор департамента методологии информационной безопасности «Ростелекома».



Ландшафт атак

Ландшафт атак также меняется. Если раньше они осуществлялись в основном на крупные компании, преимущественно финансового сектора, то сейчас выбирают игроков помельче. Дело в том, что крупные организации большое внимание уделяют безопасности своих данных. Поэтому успешно реализовать атаку у хакеров получается крайне редко. Злоумышленники снизили уровень притязаний и переключились на подрядные организации крупных игроков, а также дочерние фирмы, которые являются менее защищенными в сфере кибербезопасности.

DDoS-атаки (онлайн-атаки на системы, когда злоумышленники посылают огромное число запросов, чтобы загрузить серверы, используя уязвимости в системе безопасности) часто привязываются к определенным событиям: прямая линия президента, выборы и так далее. По словам эксперта, хакеры хотят попробовать свои силы и взломать серверы именно в период таких событий.

Михаил Савельев привел примеры резонансных взломов. Так, одна из крупнейших российских авиакомпаний пострадала от действий злоумышленников. В результате были задержаны рейсы, не осуществлялись вылеты.

Не стала исключением и компания «Ростелеком». Было зафиксировано несколько попыток взлома их систем. Однако сейчас, по словам Михаила Савельева, проблемы устранены, хакеры переключились на дочерние компании. Однако и в этом направлении ведется большая работа для предотвращения взломов, что практически исключает доступ злоумышленников к данным организаций.

Для повышения зрелости информационной безопасности «Ростелеком» сотрудничает с региональными и федеральными органами власти по ряду направлений для обеспечения информационной безопасности, создан инструмент под названием «Кибериндекс» для оценки безопасности данных своих дочерних компаний, инвестирует в развитие региональных центров компетенций и подготовку кадров. Также компания ведет масштабную просветительскую деятельность.

Инна Балашова

Реклама. Заказчик — ПАО «Ростелеком», ИНН 7707049388. Erid: 2SDnjc7C721