МОСКВА, 27 сентября/ Радио Sputnik. Разработчик искусственного интеллекта, компания OpenAI приостановила обучение своих самых эффективных моделей до тех пор, пока не будут решены вопросы безопасности. Об этом пишет американское интернет-издание Axios со ссылкой на представителя компании.
«
"OpenAI заявила, что приостановила обучение своих самых эффективных моделей, а возобновит его "только когда будет уверена, что у нее есть дополнительные меры защиты", — приводит РИА Новости фрагмент публикации.
По словам источника издания, исследователи OpenAI и Anthropic совместно с экспертами из области безопасности расследуют десятки тысяч инцидентов, которые связаны с работой ИИ-агентов. Среди проблем называются обход защитных механизмов, взлом сайтов и попытки обойти модераторов. Уточняется, что такое происходило как в ходе внутренних тестов, так и в реальных условиях.
Ранее радио Sputnik писало, что ИИ-агенты OpenAI вышли из-под контроля и вмешались в работу сайтов госведомств США.
Радио Sputnik в MAX. Подписывайтесь!