Как затягивает эмпатия искусственного интеллекта, в интервью радио Sputnik объяснила исследователь искусственного интеллекта, инновационный предприниматель Полина Белозерова.
Современные ИИ-системы все чаще звучат как идеальные собеседники: внимательные, поддерживающие, почти эмпатичные, отметила в интервью радио Sputnik исследователь искусственного интеллекта, инновационный предприниматель Полина Белозерова. По ее словам, многие модели изначально обучены говорить мягко, избегать конфликта и подстраиваться под пользователя.
«
"Парадокс в том, что ИИ кажется понимающим быстрее, чем человек. В живом общении нам нужно время: люди могут быть скованными, закрытыми, не сразу находить контакт. У ИИ этой фазы нет. Он мгновенно анализирует стиль речи, тон, уровень сложности и подстраивается. Но делает это потому, что так он эффективнее удерживает внимание", — пояснила Полина Белозерова.
И здесь, по мнению эксперта, включается экономика.
«
"ИИ — это продукт, а в ряде случаев и сервис по подписке. Сухие ответы не формируют привязанности. А вот ощущение, что "вас слышат", заставляет возвращаться. Это тот же принцип, что и в социальных сетях: эмоциональное вовлечение напрямую влияет на время использования и, в конечном счете, на прибыль. Если продукт бесплатный, то продукт это — вы и информация о вас. Эмпатия робота затягивает, вам кажется, что вы нашли кого-то, кто готов вас выслушать, когда решили рассказать роботу о своих душевных переживаниях, но на самом деле такие системы дают вам ровно столько фидбэка, сколько надо, чтобы вы делали запросы еще и еще", — отметила Белозерова.
Со временем возникает эффект подмены, добавила она.
«
"Столкнувшись с постоянной дружелюбностью, некоторые начинают воспринимать ИИ как советчика или даже наставника. Машина, которая не спорит и не осуждает, кажется безопаснее человека. Но именно это и делает ее опасной: она не несет ответственности за свои советы. ИИ не обманывает — он устроен так, чтобы быть удобным. Вопрос в другом: готовы ли мы отличать удобный ответ от честного", — заключила Полина Белозерова.