Папа Римский объявил войну ИИ: «Машины не люди, их надо разоружить»

Папа Лев XIV в пятницу утром принял в Апостольском дворце участников встречи о будущем ИИ, которую устроили Папская академия жизни и Институт будущего жизни (Future of Life Institute). Учёных и инженеров он встретил без комплиментов: тревога вокруг ИИ общая, направление все понимают, а делается слишком мало.

Дальше было пять тезисов. Будущее ИИ не предопределено, его делают люди, поэтому люди обязаны направлять технологию, менять её и, если надо, отказываться от отдельных применений. Главный вопрос, по словам папы, не «что умеет ИИ», а «зачем он нужен». Надёжная система, которая служит человеку, ценнее сверхмощной, последствия которой никто не может предсказать.

Второй тезис бьёт прямо по модной идее дать нейросетям права. «Машины это инструменты, а не личности», сказал Лев XIV. ИИ не чувствует боли и радости, у него нет тела и опыта отношений. Если признать за ним правовой статус, ответственность людей растворится, и пострадавший останется один на один с безликой системой.

Самое жёсткое прозвучало в третьем пункте. Решения о жизни, свободе и применении силы нельзя отдавать машине: человек в списке целей или в базе пограничного контроля превращается в строчку данных. Поэтому ИИ нужно «разоружить», а государства, которые в ноябре соберутся в Женеве, папа призвал сделать конкретные шаги к запрету автономного смертоносного оружия.

Ещё он попросил направить технологии на общее благо, чтобы доступ к медицине, знаниям и инструментам был у всех, и потребовал общих правил, независимого надзора и понятной ответственности, чтобы любое решение о разработке ИИ можно было оспорить, а вред возместить.

Это не первый заход: в мае Лев XIV выпустил энциклику Magnifica Humanitas о человеке в эпоху ИИ, а его предшественник Франциск ещё в 2024 году говорил лидерам G7, что машина никогда не должна решать, отнять ли у человека жизнь. Запретить ничего папа не может, но голос у него громкий, и прозвучал он за пару недель до женевских переговоров.