МОСКВА, 15 сентября/ Радио Sputnik. Лидеры ИИ-отрасли заявили о рисках, связанных с ускорением развития искусственного интеллекта. Директор Центра компетенций ИИ АНО "Цифровые платформы" Алексей Маркелов в беседе 360.ru рассказал, реальна ли угроза.
В сентябре 2026 года глава Anthropic Дарио Амодеи опубликовал эссе "We Must Pace the Frontier", в котором призвал регулировать темп развития самых мощных моделей ИИ из-за резкого ускорения прогресса с лета 2026.
Позицию Амодеи поддержали Сэм Альтман (OpenAI), Демис Хассабис (Google DeepMind) и Илон Маск (xAI). Альтман подчеркнул, что в случае необходимости нужно быть готовыми пойти на крайние меры и уничтожить вычислительные мощности.
По мнению Маркелова, речь идет не о полной остановке разработок ИИ-систем, а о стандартизации и сертификации фронтирных моделей – по аналогии с отраслями с высоким риском.
«
"Вот как самолеты проходят сертификацию до того, как допустить их уже к перевозке пассажиров, то же самое должно происходить с фронтирными моделями, которые до релиза проходят экспертную независимую оценку и только потом получают доступ уже к широкой аудитории. Потому что это связано с большими рисками", – пояснил он.
Эксперт отметил, что Амодеи больше всего беспокоит активное участие ИИ в создании новых поколений ИИ, в результате чего скорость разработки разгоняется до такой степени, что ее не успевают контролировать и проверять.
Отдельной проблемой будет стандартизация нейросетей: Маркелов обратил внимание, что языковые модели с разной "родиной" дают разные ответы на вопросы, касающиеся ценностей, — что усложняет выработку единых норм.
Кроме того, заявления о регулировании могут стать сигналом для инвесторов на фоне разговоров о пузыре ИИ и движении к большей прозрачности и зрелости отрасли.
Радио Sputnik в MAX. Подписывайтесь!