В чем главный риск ИИ, в интервью радио Sputnik рассказал IT-эксперт Юрий Гизатуллин.
Главный реальный риск искусственного интеллекта (ИИ) сегодня связан с массовым обманом, а сценарий "восстания машин" не предсказывают даже самые осторожные исследователи. Такое мнение высказал IT-эксперт, технологический предприниматель Юрий Гизатуллин, комментируя данные МВД России о том, что мошенники сочетают психологическое давление с дипфейками и подстраивают схемы обмана под возраст жертвы.
«
"Мы перестали отличать настоящее от сгенерированного. В исследованиях, на которые опирается Международный доклад по безопасности ИИ, люди принимали ИИ-голос за настоящий в 80% случаев, а ИИ-текст за человеческий в 77%. Для мошенника это идеальный рынок: можно писать персональные тексты, генерировать видео и фото, и его "товар" будет неотличим от настоящего. Даже водяные знаки умелые злоумышленники легко обходят", — предупредил Юрий Гизатуллин.
По словам эксперта, разговор о рисках ИИ должен опираться на доказательства.
«
"Одни риски уже реальны и задокументированы: мошенничество, кибератаки, дипфейки. Другие, вроде потери контроля над сверхсистемами, пока остаются сценарием, к которому стоит готовиться заранее. Разговор должен идти в этой логике, а не в формате "все пропало" или "все выдумали", — отметил Гизатуллин.
Еще одним риском он назвал снижение способности людей думать самостоятельно.
«
"Парадоксально, но ИИ делает людей менее умными. Сотрудник вроде выполняет работу быстро, но объяснить, откуда у него такие выводы, не может. Таких сотрудников, которые отправляют мою задачу в ИИ, а потом присылают мне ответ ИИ, я называю "мясным прокси", — пояснил эксперт.
Гизатуллин также указал, что страх перед ИИ может использоваться в интересах крупных разработчиков.
«
"Чем опаснее технология, тем ценнее ее создатель и тем выше порог входа для конкурентов. Правила, написанные во имя безопасности, скорее всего закрепят позиции тех, кто эти правила и предлагает", — сказал он.
Российский подход к регулированию эксперт оценил положительно.
«
"Россия не находится на передовой технологий, и у роли догоняющего есть плюсы: можно спокойно смотреть на ошибки лидеров и выбирать свой путь. Регулирование идет в сторону защиты населения, а не ограничения развития, и это хорошо", — отметил Гизатуллин.
Главной защитой от рисков ИИ он считает образование.
«
"Если каждый будет понимать, как работает ИИ и что с его помощью можно сделать, обмануть людей уже не получится. Скорость развития ИИ уже вышла из-под контроля человечества, и если не получается остановить, надо возглавить", — заключил Юрий Гизатуллин.
Радио Sputnik в MAX. Подписывайтесь!