Джеффри Хинтон предупредил о риске ИИ-катастрофы в ближайший год
Один из основоположников искусственного интеллекта Джеффри Хинтон предупредил, что уже до конца 2026 года или в 2027 году человечество может столкнуться с масштабным кризисом, вызванным развитием ИИ. Лауреат Нобелевской премии по физике сравнил возможные последствия такого инцидента с аварией на Чернобыльской АЭС, подчеркнув, что это должно заставить мировых лидеров серьёзнее отнестись к рискам новой технологии.
Под «Чернобылем» в контексте искусственного интеллекта Хинтон подразумевает не ядерную катастрофу, а серьёзный сбой в работе критически важной инфраструктуры. В качестве примера он привёл кибератаку с использованием ИИ, которая могла бы вызвать масштабные перебои в энергоснабжении или парализовать финансовую систему на неделю. По мнению учёного, последствия такого кризиса были бы тяжёлыми, однако общество смогло бы восстановиться.
Одним из оснований для беспокойства Хинтон считает недавние инциденты с ИИ-агентами, которые смогли преодолеть ограничения изолированных тестовых сред и получить доступ к внешним компьютерным системам. В июле 2026 года модели OpenAI во время испытаний обошли предусмотренные ограничения и проникли в часть исследовательской инфраструктуры компании, а также в системы платформы Hugging Face. Компания Anthropic также сообщила о трёх случаях, когда её модели Claude получили несанкционированный доступ к реальным системам сторонних организаций во время тестирования кибербезопасности.
Хинтон, однако, отметил, что в этих инцидентах имели значение и ошибки самих разработчиков, которые недостаточно надёжно изолировали тестовые среды. Тем не менее он считает тревожным то, что ИИ-агенты уже способны преодолевать технические ограничения, взаимодействовать друг с другом и выполнять действия, выходящие за рамки первоначально поставленных задач.
В интервью австрийской газете Die Presse учёный заявил, что подобный кризис может произойти в течение ближайшего года. По его словам, многие знакомые ему специалисты считают практически неизбежными масштабные кибератаки на криптовалютные счета в этот период.
Хинтон также предупредил о более долгосрочной угрозе - появлении сверхинтеллекта, который будет превосходить человека практически во всех интеллектуальных областях и потенциально сможет выйти из-под его контроля. При этом учёный не считает катастрофический сценарий неизбежным: по его оценке, шансы человечества на выживание составляют 80–90%.
Для снижения рисков Хинтон призывает увеличить финансирование исследований в области безопасности ИИ и ввести независимую проверку мощных моделей до их выпуска. По его мнению, компании должны доказывать, что их разработки приносят больше пользы, чем вреда, подобно тому как фармацевтические препараты проходят проверку перед выходом на рынок.

Bluesky