Опасны ли чатботы с искусственным интеллектом?

Опасны ли чатботы с искусственным интеллектом?


Чтобы лучше обслуживать своих клиентов, предприятия все больше полагаются на Искусственный интеллект (ИИ). Эти компьютеризированные системы собирают информацию о клиентах, а затем пытаются применить их для решения бизнес-задач.

ИИ оказывается особенно полезным в сфере обслуживания клиентов. Отслеживая беседы с клиентами, системы с искусственным интеллектом начинают обнаруживать модели поведения, которые могут быть использованы для того, чтобы заранее предугадывать вопросы клиентов и проблемы, с которыми они могут столкнуться. Агенты по обслуживанию клиентов могут использовать эту «интуицию», чтобы значительно быстрее  устранять инциденты, чтобы предоставлять клиентам сервис более высокого качества.

Комбинация ИИ и чатботов для обслуживания клиентов

Онлайн-ритейлеры также ищут способы, чтобы клиентам было проще и удобнее осуществлять покупки, облегчая им доступ к требуемой информации. Многие из них уже активно используют «чатботы» - это автоматизированные системы, которые самостоятельно могут отвечать на вопросы клиентов в окне сайта с текстовым чатом.
Изначально чат-боты были достаточно глупыми, т.к. они могли отвечать только на определенные вопросы, которые должны быть точно сформулированы, ибо малейшее изменения формулировки вопроса приводило к тому, что система переставала его понимать. Но когда чат-боты усилили искусственным интеллектом, то такие системы однозначно стали намного более интеллектуальными.
ИИ может быть использован для того, чтобы «узнать», как думают клиенты, чтобы чатбот мог ответить на различные вопросы. Чем больше системы обучаются, тем более широкий круг вопросов, на которые она может самостоятельно ответить, и тем быстрее она это сделает.
Хорошей технологией можно злоупотреблять

К сожалению, ИИ и чатботы могут быть использованы и для злонамеренных действий, потому что ИИ специально разработан для того, чтобы лучше понимать нас как отдельных людей – так что он может стать идеальным инструментом для кражи вашей идентичности. Чем больше такие системы знают о вас, тем им проще будет подражать вам, т.е. в какой-то момент где-то действовать от вашего лица.
Как результат, покупатели должны быть очень осторожны в выборе сайтов, которые они посещают, а также систем, с которыми они взаимодействуют. Разговор с вредоносным чатботом может быть очень опасен, если вы будете вводить данные вашей банковской карты на таком фишинговом сайте.

По мере «взросления» ИИ и удешевления его работы, мы ожидаем увидеть еще больше примеров того, как кибер-преступники будут злоупотреблять этой технологией, чтобы совершить еще больше мошеннических преступлений. Со временем такие системы могут даже собирать данные из нескольких источников: например, собирать информацию из вашего профиля в Facebook в дополнение к тем данным, которые они получают от фейкового чатбота.

Чем больше объем информации, к которой ИИ может иметь доступ, тем более детальный портрет о вас, ваших предпочтениях и интересах могут составить хакеры. А это означает, что когда они попытаются использовать ваши данные, их усилия могут стать намного более эффективными, и, скорее всего, успешными.

Как защититься от фейковых чатботов с ИИ

Чтобы оставаться в курсе этих опасностей, и не быть обманутым со стороны вредоносного ИИ и фейкового чатбота, вам следует установить надежный и эффективный антивирус. Он не только поможет вам защитить ваш компьютер от вирусов, но также будет предупреждать вас всякий раз, когда вы попадете на опасный сайт, или даже полностью заблокирует доступ к нему.
Сделайте шаг к своей защите сегодня, скачав бесплатную версию своего антивируса  – вы не пожалеете об этом J


Оригинал статьи: Chatbots and AI -are they dangerous?


Panda Security в России
+7(495)105 94 51, marketing@rus.pandasecurity.com
информационная безопасность чатбот Искусственный интеллект
Alt text

Не ждите, пока хакеры вас взломают - подпишитесь на наш канал и станьте неприступной крепостью!

Подписаться

Облачные решения

Новости и события компании. Информационная безопасность IT-устройств дома, малого и среднего бизнеса, антивирусы.