Папа римский Лев XIV призвал ограничить развитие ИИ

Глава Римско-католической церкви папа римский Лев XIV представил свою новую энциклику под названием Magnifica Humanitas. Основной темой документа стали риски, связанные с бесконтрольным развитием технологий искусственного интеллекта, и необходимость их строгого регулирования на международном уровне.

Понтифик признает, что ИИ может служить полезным инструментом для человечества, однако указывает на серьезные перекосы в распределении власти. По мнению автора документа, текущая модель развития технологий способствует концентрации влияния в руках узких групп, которые способны манипулировать общественным мнением, экономическими процессами и демократическими институтами.

Основой искусственного интеллекта должны быть человеческие ценности и мораль, а не интересы узкого круга влиятельных лиц, — подчеркивается в энциклике.

Особое внимание в документе уделено милитаризации технологий. Лев XIV выступил с резкой критикой использования автономных систем вооружения, способных самостоятельно принимать решения о ликвидации целей. Понтифик настаивает на том, что делегирование машинам права на жизнь и смерть недопустимо.

Основные тезисы энциклики включают:

• Необходимость жесткого контроля над разработками в сфере ИИ со стороны общества и государственных структур.
• Обеспокоенность ростом военных расходов, которые отвлекают ресурсы от социальных нужд, таких как здравоохранение и образование.
• Предупреждение о рисках модернизации ядерного оружия и игнорировании норм международного гуманитарного права.

Презентация документа состоялась в Ватикане при участии экспертов и представителей технологического сектора, включая сооснователя компании Anthropic Криса Олу. Участие представителей индустрии безопасности ИИ подчеркивает актуальность дискуссии о моральных границах прогресса, особенно в контексте автоматизированных систем наблюдения и ведения боевых действий.