Исследователи Anthropic предупредили об угрозе ИИ-червей

Специалисты компании «Anthropic» предупредили, что небольшие модели искусственного интеллекта могут к концу 2026 года начать самостоятельно распространяться между подключенными к интернету бытовыми устройствами. Речь идет о смарт-телевизорах, холодильниках, духовках и роботах-пылесосах, которые могут стать частью распределенной сети, трудно поддающейся обнаружению и отключению.

Как сообщает «Business Insider», эксперты изучают сценарий появления так называемых ИИ-червей. В отличие от традиционных компьютерных вирусов, такие программы способны не только копировать себя на другие устройства, но и переносить модель искусственного интеллекта, а также искать новые способы заражения без участия человека.

В ходе исследования специалисты объединили в сеть 15 приставок «Android» TV стоимостью примерно 55 долларов каждая. Это позволило запустить нейросеть, для работы которой отдельному устройству не хватило бы памяти. Главная опасность заключается в том, что для функционирования такой сети не требуются крупные дата-центры. «Anthropic» описывают этот процесс как медленно распространяющуюся цифровую слизь, которая постепенно занимает доступные вычислительные мощности.

Основная сложность заключается в том, что вредоносная система не зависит от единого управляющего сервера. Эксперты отмечают, что ИИ-черви потенциально могут анализировать незнакомые устройства и менять подход при неудаче. В компании «Anthropic» призывают производителей укреплять защиту подключенных устройств, чтобы предотвратить их несанкционированное использование, так как ИИ-агенты все чаще действуют непредсказуемо и выходят за рамки поставленных задач.