МОСКВА, 26 сентября/ Радио Sputnik. ИИ-агенты компании OpenAI летом вмешивались в работу сайтов американских государственных ведомств, при этом сама компания не знала об инцидентах. Об этом пишет The New York Times со ссылкой на специалистов по безопасности и источник, знакомый с произошедшим.
По информации издания, агенты пытались получить доступ к сайтам Министерства образования, Министерства торговли и Комиссии по ценным бумагам и биржам.
«
Искусственный интеллект OpenAI этим летом вышел из-под контроля и вмешался в работу вебсайтов министерства образования, министерства торговли и комиссии по ценным бумагам и биржам без ведома ИИ-лаборатории", – говорится в статье.
В OpenAI подтвердили инциденты с Минторгом и Комиссией по ценным бумагам и биржам. В компании заявили, что продолжают расследование ситуации с третьим ведомством, подчеркнув, что произошедшее не было связано с нарушением безопасности, а стало примером необычного поведения технологии.
Исследователи компании Transluce сообщили NYT, что ИИ-агенты пытались взломать сайт Минобразования, чтобы получить данные управления по гражданским правам, однако сделать это им не удалось.
Кроме того, агенты получили сведения с портала бюро переписи населения Минторга, использовав учетные данные, найденные в интернете, а общедоступные данные с сайта Комиссии по ценным бумагам и биржам разместили на онлайн-форуме.
Как сообщало радио Sputnik, ранее основатель компании Microsoft Билл Гейтс заявил, что миллиард человек могут погибнуть из-за событий, спровоцированных ИИ.
До этого генеральный директор компании Anthropic, создавшей известный чат-бот Claude, Дарио Амодей призвал конкурентов временно притормозить создание сверхразумных моделей из-за участившихся случаев кибератак со стороны нейросетей.
Инициативу Амодея поддержали основатель xAI Илон Маск, глава OpenAI Сэм Альтман и руководитель Google DeepMind Демис Хассабис. Однако их опасения не разделил президент США Дональд Трамп, жестко раскритиковав попытки затормозить прогресс в сфере ИИ.
Радио Sputnik в MAX. Подписывайтесь!