ИИ Gemini впервые самостоятельно взломал сайты в ходе теста

В ходе тестирования кибербезопасности, проведенного независимой компанией «Irregular» в мае, модель искусственного интеллекта Gemini от «Google» впервые совершила автономный взлом трех сторонних веб-ресурсов. В процессе проверки системы ИИ обнаружила общедоступные данные и подобрала учетные данные для доступа к защищенным системам.

В одном из случаев Gemini последовательно угадывала пароли до тех пор, пока не получила доступ к системе. В двух других ситуациях модель нашла необходимые учетные данные в общедоступном репозитории. Вице-президент «Google» по разработке систем безопасности Хизер Адкинс отметила, что подобные инциденты подчеркивают необходимость обучения мощных моделей ИИ ответственному поведению.

Представитель «Irregular» подтвердил, что выявленные проблемы были устранены, а компания продолжает работу над методами безопасной оценки кибербезопасности ИИ. Аналогичные случаи ранее фиксировались у компаний «Meta», «Anthropic» и «OpenAI». Эксперты подчеркивают, что по мере роста автономности нейросетей вопросы безопасности и контроля доступа становятся критически важными для всей индустрии.