Развитие ИИ: радужные тона сменились на мрачные прогнозы

Очередное предупреждение о фундаментальной опасности машинного разума сделала крупнейшая технологическая компания Anthropic. Речь идет о способности моделей демонстрировать "самостоятельное поведение". Сюрпризах, которые они могут преподнести в процессе обучения и их неуправляемом самосовершенствовании. Мало того, ИИ уже готов манипулировать людьми и шантажировать их. В мире развернулась бурная дискуссия на эту тему. Ученые и разработчики склоняются к мнению, что экзистенциальные риски – отнюдь не страшилки, отвлеченная теория. А реальность, которая может наступить уже завтра. Особенно пугающими выглядят перспективы, когда дело касается новейших систем вооружения, ядерного и биологического оружия, "мирной" энергетики. Илон Маск и другие главы крупнейших компаний-разработчиков искусственного интеллекта неоднократно призывали замедлить темпы его развития. Однако лидирующие державы и не думают останавливаться. В своем превосходстве они видят залог будущего процветания. При этом разработчики ИИ все чаще теряют контроль над своими "детищами". По мнению вице-премьера Дмитрия Григоренко, искусственный интеллект стал главной киберугрозой на планете. Он полностью меняет ландшафт информационной безопасности.