ИИ в борьбе с мошенниками: возможности и преимущества

О том, какие задачи по обнаружению мошеннических действий можно решить с помощью ИИ, насколько эффективен этот инструмент, в каких областях он применяется сейчас и каковы перспективы его использования, рассказали эксперты группы компаний ЛАНИТ.

Необходимость использования ИИ

Применение механизмов искусственного интеллекта в борьбе с мошенниками связано с возможностью анализировать большие объемы данных и выявлять в них скрытые закономерности. "Используя алгоритмы ИИ, можно получить качественный результат, но нужно стремиться, чтобы одновременно он был легко интерпретируемым", — отметил руководитель практики центра компетенций больших данных и искусственного интеллекта ЛАНИТ Владислав Балаев.

Как пояснил директор департамента прикладных решений "ЛАНИТ-ТЕРКОМ" (группа ЛАНИТ — прим. ред.) Дмитрий Медведев, такие инструменты позволяют обнаруживать скрытые закономерности, благодаря которым пользователи могут получать информацию о существующих уязвимостях в периметре компании или анализировать подозрительную активность. "Искусственный интеллект использует автоматические методы обнаружения аномалий, которые выявляют отклонение от нормального поведения, и это касается необычных транзакций, мошеннических текстов, поддельных документов и многого другого", — сказал он.

Медведев подчеркнул, что такие технологии постоянно адаптируются к новым мошенническим схемам, что позволяет сделать их мощным инструментом в борьбе с этой проблемой. Одним из основных преимуществ технологий искусственного интеллекта является непрерывный мониторинг в режиме реального времени, который невозможно вести в "ручном" режиме. Помимо этого, ИИ обладает возможностью распознавать содержимое документов и при необходимости может автоматически блокировать передачу чувствительных данных.

Механизм работы

Самая распространенная цель мошенников — кража денег. В связи с этим, как сообщил Балаев, основной сферой их деятельности выступает банковская отрасль, а также сфера обращений граждан. "Есть классические области, в которых действуют злоумышленники, например спам. Здесь изменений немного. А есть такие области, как социальная инженерия, в которых изменения существенные, например появление качественных дипфейков", — рассказал он.

До начала массового применения новые механизмы ИИ проходят комплексное тестирование. После этого этапа начинается ступенчатое внедрение продукта. Балаев пояснил, что сначала новая технология имеет небольшой порог чувствительности, чтобы блокировать только самую подозрительную активность. Затем ее показатель постепенно повышают до значений, которые требуются для решения поставленной бизнес-задачи.

В результате эффективность использования таких технологий превышает эффективность традиционных методов от двух до десяти раз. При этом компании, занимающиеся разработкой таких инструментов, постоянно работают над их совершенствованием. "Мошенники обращаются к более сложным схемам, поэтому перед нами стоит непростая задача. Для отслеживания таких действий мы буквально вынуждены постоянно улучшать механизмы их определения, но машинное обучение позволяет намного лучше адаптироваться к изменениям, чем экспертные правила", — сказал Балаев.

Способы борьбы с мошенниками

Как сообщил Балаев, чаще всего в финансовой сфере, которая наиболее подвержена действиям мошенников, применяют метод социальной инженерии, при котором используется психологическое воздействие, манипуляции и доверие жертвы для получения денег, личных данных или доступа к ним.

Также мошенники активно эксплуатируют тему технических проблем. "Довольно часто мошенники узнают про какие-то уязвимости в приложениях банка и начинают этим пользоваться, поэтому почти все финансовые организации имеют уже не одно, а несколько приложений с искусственным интеллектом", — сообщил он. Приложения отслеживают транзакционную активность пользователей и вывод денег и сообщают в случае обнаружения подозрительных действий.

"Такие программы тонко настраиваются с помощью модели машинного обучения, основанной на очень большой статистике, и им удается достигать хороших результатов. Они могут одновременно учитывать, например, время, сумму, географическое положение отправителя и разнообразие его транзакционной активности в различные периоды времени перед совершением проверяемой транзакции. Человек такое многообразие требований отслеживать не может", — пояснил Балаев.

Применение ИИ в банковской сфере

Эксперт рассказал, что ЛАНИТ реализовал два проекта по выявлению методов социальной инженерии с помощью технологий ИИ. Первый из них носил классический характер. В ходе него программа, основанная на искусственном интеллекте, отслеживала различные сочетания факторов в рамках транзакционной активности. "Основная специфика проекта заключалась в огромном объеме данных, который необходимо правильно обрабатывать. При этом данные нужно было считать за миллисекунды, чтобы пользователь не замечал, что его проверяют", — поделился Балаев. Целью проекта стал не только поиск мошеннических операций, но и отслеживание операций, вызывающих наибольшее доверие (так называемый frictionless flow), чтобы в дальнейшем не тратить ресурс на их проверку.

При этом если в рамках этого проекта ЛАНИТ имел большое количество примеров мошеннических операций, на основе которых можно было обучить искусственный интеллект, то при реализации второго проекта таких данных у компании не было. "Мы сами прописали код для некоторых мошеннических схем, которые могли быть реализованы. Для этого мы привлекали экспертов из банковской отрасли, которые описали, как это обычно происходит и как это должно отражаться в данных. На основе полученной информации мы обучали искусственный интеллект, который стал отлавливать настоящие мошеннические операции", — рассказал Балаев. По его словам, в результате с помощью ИИ-инструментов из 100 мошеннических операций удается обнаружить примерно 70.

Мошенничество в других отраслях

Нередко встречаются случаи обмана при обращениях граждан в государственные организации. По словам Балаева, наиболее распространенными в этой сфере схемами являются взятки или сокрытие действий. ЛАНИТ уже реализовал проект по выявлению скрытых данных в этой области, основанный на поиске несостыковок в полученной информации.

"Мы базировались на специальном направлении машинного обучения, которое называется „детекция аномалий“. В рамках него алгоритмы ИИ отлавливали данные, выпадающие из общей картины. Потом эти данные анализировались на предмет того, была ли применена коррупционная схема", — пояснил Балаев. Иногда такие махинации могут нанести столь значительный ущерб, что выявление одной или двух схем позволяет полностью окупить проект.

В сельском хозяйстве технологии ИИ применяются для обнаружения краж продукции и удобрений, поэтому самым распространенным инструментом в этой области выступает компьютерное зрение. "Кражи чаще всего можно обнаружить по видеокамерам, но их не всегда можно установить в нужном месте, содержать в чистоте и безопасности и соблюдать ряд других условий. Поэтому приходится применять и другие подходы", — рассказал Балаев.

ЛАНИТ также реализовал несколько проектов с использованием технологий ИИ в области АПК. В ходе своих проектов компания предложила использование датчиков внутри кузова сельскохозяйственной техники и определение с их помощью объемов перевозимой продукции. "Они нужны для того, чтобы на каждом этапе проведения работ (от закупки минеральных удобрений до разбрасывания в поле) сравнивать имеющийся объем с тем объемом, который должен быть", — пояснил Балаев. При этом если точность измерения самих датчиков составляет не более 80%, то при использовании в этом процессе машинных технологий, учитывающих скорость вращения определенных частей, скорость движения и другие факторы, этот показатель увеличивается до 90–95%.

Решение NeuroDataMask

Один из инструментов в борьбе с мошенниками — разработанная специалистами "ЛАНИТ-ТЕРКОМ" интеллектуальная система для анализа, контроля и структурирования персональных и коммерческих данных NeuroDataMask (18+). Решение основано на LLM (Large Language Model — прим. ред.) — больших языковых моделях, обученных на огромных текстовых данных. Как пояснил Медведев, программа уведомляет пользователей о возможных утечках чувствительных данных. "Например, если в тексте содержатся конфиденциальные или персональные данные, то решение помогает их выделить и предлагает варианты изменения содержимого текста, при этом сохраняя уже имеющийся опыт", — рассказал он.

Медведев отметил, что необходимость разработки NeuroDataMask была продиктована несколькими факторами, ключевым из которых стал риск разглашения конфиденциальной информации сотрудниками крупной компании. По данным одного из заказчиков программы, работающего в финансовой сфере, количество инцидентов, связанных с распространением конфиденциальных данных, снизилось на 80%.

По словам Медведева, поскольку программа направлена на обеспечение безопасной работы с документами и взаимодействие с клиентами, она может быть востребована в финансовом секторе, в области телекома, юриспруденции, а также в компаниях из других секторов экономики, работающих с большими объемами конфиденциальной информации. "Кроме того, мы активно анализируем государственный сектор, в котором сохранение чувствительных данных особенно актуально. Пока находимся на этапе проработки", — сказал он.

Программа имеет интуитивно понятный интерфейс, поэтому ее использование не требует специальных навыков. Что касается сложности внедрения NeuroDataMask в рабочие процессы компании, то, по словам Медведева, она зависит от масштаба инфраструктуры конечного пользователя. При этом "ЛАНИТ-ТЕРКОМ" оказывает пользователям полную техническую поддержку на всех этапах внедрения программы: от первичного развертывания до дальнейшего обслуживания.

"Фактически мы обеспечиваем плавную адаптацию решения NeuroDataMask под конкретные бизнес-процессы. В рамках этой адаптации мы настраиваем продукт в соответствии с требованиями безопасности, внутренними регламентами и в целом с рабочими процессами организации", — сказал Медведев. После внедрения пользователи также продолжают получать техническую поддержку от "ЛАНИТ-ТЕРКОМ".

Перспективы ИИ-технологий в борьбе с мошенниками

Перспективы применения механизмов ИИ для выявления мошеннических схем высоки благодаря способности анализировать большие объемы данных в режиме реального времени. Искусственный интеллект позволяет объективно и оперативно обнаружить подозрительную активность, а затем прогнозировать потенциальные угрозы, что помогает снижать финансовые и репутационные риски компаний.

Уже сейчас использование такого рода технологий в некоторых секторах экономики позволяет снизить число мошеннических операций на 80–90%. Разработки в этом направлении ведутся российскими компаниями, в том числе группой ЛАНИТ. "Мы постоянно работаем в области обеспечения информационной безопасности. Наше решение NeuroDataMask — это один из кирпичиков в ее построении", — заключил Медведев.

Реклама. АО Лаборатория новых информационных технологий "ЛАНИТ", ИНН 7727004113, erid: 2SDnjdEcbBs