Какие риски несет использование нейросетей в бизнесе, в интервью радио Sputnik рассказал эксперт по корпоративным технологиям, ИИ и стратегической трансформации бизнеса Саян Доржиев.
Доверять коммерческую тайну нейросетям нельзя ни в коем случае, считает эксперт по корпоративным технологиям, ИИ и стратегической трансформации бизнеса Саян Доржиев. В интервью радио Sputnik он пояснил, почему.
«
"Помните: информация из компьютерных баз данных не удаляется никогда. Даже когда вы видите ее удаленной, это интерфейс. Информация только отображается как удаленная, а внутри она живет с пометкой "удалена". Что касается нейросетей, то никто не знает, что она будет делать с переданной ей информацией. Нейросеть может выдать вашу информацию другому пользователю, конкуренту, злоумышленнику. Уйти могут ваши проприетарные модели, торговые алгоритмы, аналитика по обнаружению мошенничества", – предупредил Саян Доржиев.
ИИ также может выдать в запросах информацию ваших клиентов, а значит можно готовиться к искам с их стороны, продолжил эксперт.
«
"Вы будете признаны виновным в нарушении GDPR и EU AI Act в Европе. В России – в нарушении законодательства о персональных данных, как минимум. Я уже не говорю об ущербе вашей деловой репутации. В конце концов система может обучиться делать то, что делаете вы. Только нейросеть будет делать это быстрее вас и бесплатно. Это может просто уничтожить вашу бизнес-модель", – подчеркнул Саян Доржиев.
По его словам, обработка информации нейросетями создает уникальное окно уязвимостей.
«
"Вам кажется, что вы в безопасности, потому у вас данные зашифрованы в состоянии покоя и в процессе передачи. Но поскольку для результата вам нужно, чтобы нейронка вас поняла, вы позволяете ей их расшифровать. Ведь inference, понимание, происходит на расшифрованных данных", – пояснил Доржиев.
По мнению эксперта, в 2026 году наблюдается взрывной рост ИИ-агентов.
«
"Это нейросети нового уровня, умеющие самостоятельно принимать решения и действовать автономно. Поэтому может произойти установление незаметного контроля над вашими корпоративным ПО: системами записи, продуктивности, сигнальными системами. ИИ-агенты умнее вирусов. Они могут подолгу затаиваться без активностей, менять системные записи и обманывать вашу систему безопасности", – отметил Саян Доржиев.
Радио Sputnik в MAX. Подписывайтесь!