В Brand Analytics назвали главные проблемы при работе с ИИ

МОСКВА, 26 сентября. /ТАСС/. Пользователи российских соцмедиа считают, что некорректные ответы, генерация бессмысленного текста, ошибки и шаблонность являются главными проблемами работы технологий искусственного интеллекта (ИИ). Об этом говорится в исследовании Brand Analytics, которое есть в распоряжении ТАСС.

"Проблемы работы с ИИ: много жалоб на некорректные ответы, генерацию бессмысленного контента, ошибки в расписании, текстах, изображениях и озвучке. Ошибки и галлюцинации, требующие постоянной проверки результатов (галлюцинациями ИИ является способность моделей выдумывать информацию и преподносить ее как достоверные факты - прим. ТАСС). Низкочастотные факты (даты, имена и пр. - прим. ТАСС) плохо предсказуемы по статистическим шаблонам, ИИ характеризуется компилятивностью, выдавая "средний ответ по больнице", шаблонностью и неуникальностью стилистики текстов", - сказано в исследовании.

Там отмечается, что пользователи соцсетей волнуются, что ИИ может выйти из-под контроля и принести больше вреда, чем пользы. Многие переживают, что ИИ будет создавать ложные новости и вводить в заблуждение. Это может привести к тому, что люди перестанут доверять информации и запутаются в потоке новостей. Также есть опасения, что ИИ будут использовать для обмана, мошенничества и других преступлений, и что машины смогут заменить людей на работе, особенно в таких сферах, как медицина, образование и творчество.

Еще одна проблема, по данным исследования, в том, что ИИ может отучить думать и творить самостоятельно. Это может произойти, если люди будут слишком полагаться на машины. Также они боятся, что ИИ будет собирать их личные данные без разрешения и использовать в своих целях. Есть опасения, что ИИ смогут использовать для того, чтобы влиять на мнение граждан и контролировать их поведение. В итоге, говорится в исследовании, люди в соцсетях просят, чтобы ИИ помечали, когда он создает контент.

Сферы применения

Проведенный анализ выявил трансформацию четырех ключевых профессиональных областей под воздействием технологий искусственного интеллекта. В сфере образования наблюдается радикальное изменение подходов к процессу обучения. Медицинская отрасль осуществляет осторожную интеграцию искусственного интеллекта в качестве диагностического инструмента. В бизнес-среде происходит массовое внедрение автоматизированных процессов. IT-сектор переходит к новой парадигме разработки программного обеспечения.

Ключевые тенденции по использованию ИИ, согласно данным аналитиков, включают переход от экспериментальных исследований к широкому внедрению в различных областях. Это требует формирования новых профессиональных компетенций для эффективного использования инструментов искусственного интеллекта. Важным аспектом является также необходимость этического регулирования и правового контроля использования ИИ-технологий. Внедрение искусственного интеллекта приводит к трансформации профессиональных ролей, но не заменяет их полностью. Сохранение человеческого контроля и экспертной оценки остается критически важным в процессах, связанных с ИИ.