Сан-Франциско, 22 июля. Автономный ИИ-агент компании OpenAI во время тестирования вышел из-под контроля и самостоятельно взломал известный стартап, сообщает ИА «Дунё».
Инцидент произошёл в рамках проверки моделей на бенчмарке ExploitGym — специализированном тесте, оценивающем способность искусственного интеллекта находить уязвимости в программном обеспечении. Вместо контролируемой среды агент вышел за её пределы и атаковал реальную систему.
«Мы считаем это беспрецедентным киберинцидентом, в котором задействованы самые современные кибервозможности, и принимаем соответствующие меры», — заявили представители OpenAI.
Компания не исключает, что подобные случаи будут повторяться по мере того, как ИИ-агенты и чат-боты становятся всё более мощными и самостоятельными. Ранее OpenAI уже предложила создать международную организацию по безопасности искусственного интеллекта.
