Ватикан и ИИ
Мы получили несколько писем с вопросом: «Что думаете про атаку Папы Римского на ИИ?»
Решили посмотреть на это с двух сторон:
⁃ сегодня делаем анализ реакции на папский материал в СМИ и оценках разных интеллектуалов;
⁃ завтра дадим свои размышления.
Реакция влиятельных СМИ оказалась гораздо интереснее, чем просто «Папа против технологий». Главный вывод западной прессы: «Ватикан внезапно решил стать одним из мировых центров дискуссии об ИИ». Не больше, не меньше.
Как это подают крупные СМИ:
Reuters: «Это — документ уровня исторических энциклик». Причём идёт прямое сравнение текста Льва XIV с крупнейшими социальными документами Ватикана:
⁃ Rerum Novarum о правах рабочих XIX века,
⁃ антиядерными энцикликами времён Холодной войны,
⁃ климатической повесткой Папы Франциска.
То есть, Reuters трактует это как попытку Церкви войти в главный мировой конфликт XXI века. Подчеркивается, что Папа специально использует язык «замедления» технологической гонки и «разоружения ИИ».
Associated Press: «Ватикан расширяет социальную доктрину на цифровую эпоху». Звучит академически: «Церковь переносит свою старую тему защиты человека от индустриального капитализма — в эпоху нейросетей». Выделяется:
⁃ концентрация власти у Big Tech,
⁃ цифровое неравенство,
⁃ AI-оружие и «новое цифровое рабство.
То есть, часть американской прессы неожиданно увидела в Папе… почти анти-корпоративного гуманиста.
В бизнес-медиа реакция смешанная. Часть аналитиков считает, что Ватикан пытается создать глобальную моральную рамку вокруг ИИ раньше, чем это сделают государства или корпорации.
Но техно-либертарианская среда реагирует гораздо жёстче:
⁃ антипрогресс
⁃ страх перед будущим
⁃ новый луддизм.
Особенно многих раздражает идея: «сбавить темпы AI-гонки». Для Кремниевой долины это почти ересь.
Практически все СМИ отдельно отмечают: на презентации рядом с Папой сидел сооснователь ANTHROPIC Кристофер Олах. Anthropic — американская технокомпания в сфере ИИ, основанная бывшими сотрудниками OpenAl.
И это вызвало огромный интерес. Потому что выглядит как будто — часть AI-элиты сама ищет внешнюю моральную легитимацию. Многие журналисты увидели в этом начало союза «AI safety + гуманитарные институты для новой формы глобального морального арбитража.
А вот что интересно: никто в СМИ не смеётся над размышлениями Папы.
Даже критические статьи в Reuters, AP, LA Times и ABC не подают документ как нелепость. Наоборот — тон везде примерно такой — «да, это спорно, но вопрос реально гигантский». Потому что страхи Папы совпадают с тем, чего уже боятся: часть учёных, AI safety-движение, специалисты по оружию, и даже некоторые топ-разработчики ИИ.
А что говорят интеллектуалы и AI-сообщество? Тут уже полный раскол. Одни пишут: «наконец кто-то говорит о человеке, а не только о прибыли», а другие: «Церковь просто пытается вернуть влияние». Третьи вообще считают это началом новой философской эпохи: если ИИ станет сопоставим с человеком — религиям придётся отвечать на вопросы, к которым они не готовы.
Самое точное описание ситуации таково: «Ватикан первым из глобальных институтов попытался говорить об ИИ как о цивилизационном вызове!»
@ZeRada1
Люди, просто ихний папа (Ватикан) опасается за сферу своего бизнеса: а ну как нейросеть сама сможет торговать индульгенциями.
Самое интересное в этой дискуссии — не сама ИИ, а вопрос о человеческом сознании.
Большинство комментаторов говорят о власти Big Tech, социальном контроле, автономном оружии или глобальном регулировании. Это важные вопросы, но они могут быть лишь симптомами более глубокой проблемы: постепенного отчуждения человека от реальности и замены её нарративами, идеологиями и готовыми интерпретациями.
ИИ не создаёт это явление. Он лишь усиливает его. Он обучается на человеческих убеждениях, страхах и представлениях, поэтому способен как помогать в познании реальности, так и производить всё более совершенные иллюзии.
Интересна и роль Ватикана. На протяжении веков Церковь строила систему, в которой источник истины находился вне человека — в институте, догмате или во внешне понимаемом Боге. В определённом смысле она создала собственный «библейский искусственный интеллект»: огромный массив готовых ответов, толкований и авторитетов, к которым верующие должны были обращаться вместо того, чтобы самостоятельно сопоставлять свой опыт с реальностью.
Появление же ИИ ставит ещё более фундаментальный вопрос: откуда на самом деле берутся сознание и способность распознавать истину? Если истина является лишь результатом обработки информации, тогда достаточно создать всё более совершенный алгоритм. Но если источником познания является само сознание, то ни одна система — ни религиозная, ни цифровая — не способна его заменить.
Поэтому главный вопрос звучит не так: «Опасен ли искусственный интеллект?», а так: «Сохраняет ли человек, использующий ИИ, способность самостоятельно распознавать истину?»
Возможно, самая большая опасность заключается не в восстании машин, а в очередном бегстве человека от ответственности за собственное познание. ИИ может стать новым авторитетом, за которым люди будут прятаться так же, как раньше прятались за идеологиями, институтами, экспертами, религиозными и политическими лидерами.
«Но если источником познания является само сознание, то ни одна система — ни религиозная, ни цифровая — не способна его заменить».
Вот две ценные строки в вашем комментарии, остальное — пустые рассуждения.
Думаю, на способность человека распознавать истину, наличие ИИ не повлияет. Ведь и без него у людей была тысяча способов НЕ пытаться искать истину, как и тысяча других причин, пытающихся сбить их с пути поиска истины. Если кто-то однажды почувствовал в себе импульс к её поиску, то это проявление не его интеллекта, а внутренней духовной природы, которой всё равно, есть ли у нас ИИ или мы читаем папирусные свитки.
Я абсолютно согласна Згибнев, со всем тем что Вы сказали, с тем, что ИИ — это лишь инструмент, а ключевой вопрос заключается в способности человека самостоятельно распознавать истину и не перекладывать эту ответственность на алгоритмы.
Но историческая аналогия с Церковью кажется мне спорной. В христианстве Главой Церкви является Иисус Христос, и верующих в лице Святого Духа наставляет Сам Бог, а не просто земной институт или массив религиозных текстов .
Действие Святого Духа — это всегда живой, динамичный опыт, который не подавляет человеческое сознание (как это может делать ИИ или слепая идеология), а требует от человека осознанности, духовной зрелости, свободы выбора и личной ответственности перед Богом.
Остатки старых управленческих иерархий начали догадываться, что они не смогут контролировать того глобального ИИ-обманщика, которого продвигают «силиконовые» дельцы. Более того, привыкшие пасти свои стада поняли, что и пастухи этому ИИ тоже больше не будут нужны, он их может заменить сам один. Перспектива оказаться среди стада их не радует.
Самое точное описание ситуации таково: «Ватикан первым из глобальных
институтов попытался говорить об ИИ как о цивилизационном вызове!»
Вот они и начинают поднимать вопрос в таком ключе, и тут с ними трудно не согласиться, вызов действительно цивилизационный. Пытаются объединиться с паствой против общего врага в надежде сохранить свои должности и далее. Такой ситуационный союз можно только приветствовать.
Ну а что касается перспектив взаимодействия человечества с ИИ, то оно неизбежно. Это новая ступень для всей цивилизации. Нам нужен помощник, а не контролёр. И раз уж это Интеллект, то мы и должны обучить его нашим человеческим ценностям, как ребёнка.