Папа Римский Лев XIV представил первую энциклику о защите человека в эпоху искусственного интеллекта

В понедельник Папа Римский Лев XIV опубликовал свою первую энциклику под названием Magnifica Humanitas («Величие человечества»), посвященную вопросам сохранения человеческой личности в условиях развития искусственного интеллекта. Несмотря на то что поводом для написания документа послужил технологический прогресс, основное внимание в нем уделено фундаментальным социальным проблемам: неравенству, военным конфликтам, ослаблению демократии и концентрации власти в руках лиц, пренебрегающих интересами всего человечества.

Угроза монополизации технологий

Документ объемом около 200 страниц был представлен общественности совместно с сооснователем компании Anthropic Крисом Олахом. В тексте подчеркивается, что технологии, создаваемые и управляемые узким кругом элиты, по определению не могут служить общему благу. По словам главы Католической церкви, концентрация власти ведет к закрытости систем и их уходу из-под общественного контроля, что порождает новые формы зависимости, изоляции и манипуляций.

В энциклике отмечается, что ИИ, как и любая масштабная технологическая революция, усиливает позиции тех, кто уже владеет экономическими ресурсами, экспертными знаниями и доступом к данным. В обзоре указывается на риск использования этой власти для формирования потребительских привычек, искажения информационного поля и влияния на демократические процессы в личных или корпоративных интересах.

Политический контекст и призыв к разоружению

Выход документа состоялся на фоне новостей о том, что президент США Дональд Трамп отложил подписание указа об ИИ, который предполагал введение государственного надзора за новыми моделями перед их релизом. В экспертной среде это решение связывают с влиянием венчурных инвесторов и бывших советников Белого дома.

Папа Лев XIV призвал к установлению четких критериев контроля над технологиями, основанных на участии сообществ, на которые влияет ИИ. В частности, в документе содержатся следующие призывы:

• Прекратить гонку вооружений в сфере создания сверхмощных алгоритмов и гигантских массивов данных.
• Отказаться от идеи, что техническое превосходство автоматически дает право на управление обществом.
• Ограничить стремление компаний и государств к достижению геополитического и коммерческого доминирования через технологии.

Исторические параллели и защита прав личности

Проблематика энциклики созвучна труду Льва XIII Rerum Novarum 1891 года, посвященному издержкам промышленной революции. В современном контексте обозреватели указывают на схожие процессы: от приобретения крупных социальных платформ миллиардерами до многомиллионных инвестиций технологических элит в политические структуры с целью блокировки законодательного регулирования отрасли.

Член Папской академии общественных наук и руководитель наблюдательного совета компании Meta* Паоло Кароцца в обзоре для технологических СМИ отметил, что дезинформация и дипфейки, созданные при помощи ИИ, уже подорвали способность общества отличать истину от лжи, что напрямую угрожает демократии. По словам эксперта, практика сбора и манипулирования личными данными создает беспрецедентные вызовы для когнитивной свободы человека.

* — деятельность компании запрещена на территории РФ