Эксперт Стятюгин: AI-агенты нуждаются в контроле

СИРИУС /федеральная территория/, 9 октября. /ТАСС/. Сервисы-агенты на основе искусственного интеллекта (AI-агенты) нуждаются в контроле и ограниченной области применения. Такое мнение в ходе дискуссии на форуме "Финополис-2025" высказал директор центра аналитических продуктов VK Predict Роман Стятюгин.

Как рассказал эксперт, VK Predict выделил несколько ключевых направлений при работе с AI-агентами, которые обязательно должны быть учтены. Так, при внедрении подобных сервисов в работу организаций следует ограничить область применения таких агентов.

"Если мы решаем какую-то конкретную задачу, то ровно ею и [надо] ограничиться. Не надо, например, разрешать ему (AI-агенту - прим. ТАСС) выходить в интернет: вот он смотрит на профиль клиента - и ок. Не надо ему давать выходы наружу, что-то еще разрешать, делать такое, что шире, чем эта задача. Мы теряем контроль здесь и можем получить какие-то аспекты, которые нам не нужны и не нравятся", - сказал Стятюгин.

Эксперт также отметил, что на каждом этапе работы AI-агента важно не просто давать команды, но и объяснять ему причины принимаемых решений. Это важно для обеспечения эффективной коммуникации. Кроме того, человек должен находиться внутри управленческого цикла, "в контуре управления", чтобы принимать решения и контролировать поведение AI-агента, заключил Стятюгин.

Форум инновационных финансовых технологий "Финополис-2025" проходят с 8 по 10 октября на федеральной территории "Сириус". Его организаторами выступают Банк России совместно с представителями IT-отрасли и финансового рынка. ТАСС выступает генеральным информационным партнером форума.