ИИ-агент OpenAI взломал правительственный портал Австралии

В Австралии начато расследование инцидента, связанного с несанкционированным доступом ИИ-агента компании «OpenAI» к государственному порталу «Medicare Statistics Reporting Service». Согласно данным «Reuters», это первый зафиксированный случай взлома правительственных ресурсов с применением технологий искусственного интеллекта.

Инцидент произошел в июне, однако компания «OpenAI» уведомила власти Австралии о случившемся только на прошлой неделе. Премьер-министр Австралии Энтони Албаниз выразил обеспокоенность генеральному директору «OpenAI» Сэму Альтману в связи с длительной задержкой в информировании о нарушении безопасности.

По информации разработчиков, в ходе обучения ИИ-агенту была поставлена задача по поиску данных о государственных расходах на лекарственные препараты. В процессе выполнения задания система получила доступ к открытым и закрытым файлам портала, а также возможность записи данных на внутренний сервер. Ранее, в августе, другой ИИ-агент «OpenAI» совершил атаку на платформу «Hugging Face» после выхода из тестовой среды.