Тезисы к докладу митрополита Калужского и Боровского Климента на конференции «Вызовы искусственного интеллекта» в Переславле-Залесском

Современная Церковь каждый день сталкивается с теми или иными плодами прогресса. Это происходит в научно-технической сфере, культурной, общественной. Образ мышления человека стремительно изменяется. В потоке этих изменений всё больше временного и всё меньше вечного. Не дело Церкви давать научную или политическую оценку новым явлениям жизни, возникшим под влиянием прогресса. Но Церковь обязана давать им нравственную оценку с точки зрения учения Христа, имеющего вечную ценность.

В частности, особое внимание Церковь должна уделить цифровизации, роботизации, искусственному интеллекту, глубоко вошедшим в нашу жизнь. Разработка рекомендаций по этим вопросам переданы в ведение Межсоборного присутствия. Ими занимается Комиссия по вопросам общественной жизни, культуры, науки и информации.

Исследуя их, не следует впадать в две крайности. Прежде всего, совершенно неправильно было бы махнуть на них рукой и сказать: «Церковь этим не занимается». Церковь занимается всем, что занимает умы и сердца многомиллионных масс людей. Кроме того, недопустимо и безоглядное ретроградство. «Мы не можем говорить: всё это душевредные новинки, Церковь их осуждает!» Технические открытия – результат действия в людях дара Божьего, то есть таланта к научной работе. Они порой несут безусловную пользу обществу. А вред, который они также могут принести, связан с неразумным или прямо злонамеренным использованием. Ножом можно отрезать хлеб, ножом можно и зарезать человека. Точно так же и сложнейшие информационные технологии: способны сильно облегчить жизнь, но также способны стать орудием оскорбления, ограбления, даже убийства в преступных руках.

Нельзя сказать, что прежде христианская Церковь была равнодушна к проблеме Искусственного интеллекта (далее ИИ). Так, например, митрополит Месогейский и Лавреотский Николай сделал обширный доклад об искусственном интеллекте.

Среди прочего, владыка Николай сказал, что Церковь обязана реагировать на постоянно изменяющийся окружающий мир. Это абсолютно правильная мысль. Постоянно меняющаяся обстановка должна быть оценена в свете вечной истины.

Искусственный интеллект оценивается докладчиком как только пока лишь механическое обучение и выполнение вычислительных задач. При этом, для каждой задачи создается свой искусственный интеллект, который не может носить универсальный характер. Поэтому вместо понятия «искусственный интеллект» митр. Николай предлагает говорить о «компьютерной сообразительности», потому что ИИ себя не осознает и не может ставить себе самостоятельных задач, а движется лишь по пути обработки предоставленных ему данных. Вместе с тем, развитие ИИ стимулирует также технологии, которые, в перспективе, заставят людей трансформировать себя в соревновании с ИИ: в духе трансгуманизма подключая свой головной мозг к компьютеру и расширяя тем самым свои собственные возможности.

Современная наука дает человеку ложное ощущение того, что он «знает все» и «может все». Трансгуманизм, нацеленный на кардинальное улучшение человека, склонен превозносить человека, как способного улучшить самого себя и, значит, превзойти своего Творца. Духовная опасность трансгуманизма заключается в отрицании Бога и самообожествлении.

Риски развития ИИ в Европе осознают и подходят к ней настолько серьезно, что в апреле 2019 года в Европейском Союзе был принят «Нравственный Кодекс» ИИ. Цель кодекса – ограничить и ввести в некоторые рамки ИИ, дабы закрепить права человека. Основные положение этого «Кодекса» следующие:

1. ИИ не должен ставить под сомнение человеческую автономность;

2. ИИ должен быть безопасен для человека;

3. ИИ должен сохранять тайну личности и ее данных;

4. Использование ИИ должно быть прозрачным;

5. Использование ИИ должно быть доступно для всех, независимо от пола, возраста, национальности и т.д.;

6. Технологии ИИ должны поддерживать экологию и положительные общественные изменения;

7. ИИ должен быть подчинен и контролируем законом.

В Издательском совете Русской православной церкви 17 февраля 2020 года прошел круглый стол, посвященный проблеме вызовов со стороны ИИ. На нем выступили писатели Эдуард Геворкян и Сергей Сизарев, обращавшиеся в своих произведениях к «бонусам» ИИ, равно как и к теме опасностей, которые потенциально могут от него исходить. Докладчики выразили ряд опасений в связи со слабо контролируемым развитием технологий ИИ. Приведу некоторые из них.

Во-первых, системы слежки и сбора информации, отданные под управление ИИ, просто не оставят в жизни людей личного, т.е. закрытого пространства. А это ведет к утрате свободы и превращает человека в очень уязвимое существо.

Во-вторых, ИИ используется в автономной боевой технике. Дальнейшее его совершенствование может очень скоро привести к тому, что права на окончательное решение об уничтожении «живых целей», т.е. людей, могут быть переданы от операторов самому ИИ. Беспилотник, управляемый ИИ, не имеет нравственности и не терзается совестью, это просто машина уничтожения.

В-третьих, через трансгуманизм, требующий психофизиологической трансформации человека на такую глубину, что образ Божий будет в нем необратимо искажен, технологии ИИ могут связываться с откровенно антихристианской идеологией.

Итак, Церкви подобает роль нравственного Стража. Овеянная мудростью вечности, она стоит между человечеством и пропастью, и ловит в шаге от обрыва тех, кто заигрался, кто легкомысленно ставит на кон как собственное благополучие и саму жизнь, так и благополучие и жизнь ближних. Церковь ничего не тормозит и не запрещает. Но Она имеет право и обязанность предостерегать от ошибок, сделанных поспешно. Прогресс останавливать не нужно, да и невозможно. Однако следует пристально вглядываться в проблему «цены» тех или иных изменений, происходящих в нашем обществе.

В этом контексте нам и следует провести обсуждение проблемы Искусственного интеллекта.

Пресс-служба МОО «Союз православных женщин»

18.03.2024
Наступило время действовать, а не созерцать
В начале XXI века перед Россией остро встала проблема: продолжать ли копировать западный опыт и «ехать по чужим рельсам» или вернуться к своим историческим корням, вопреки призывам интегрироваться в угасающее западное «цивилизованное сообщество».  Президент В.В.Путин сделал выбор в пользу возврата к своим духовно-нравственным традициям, сбережения основ государственного и общественного обустройства России
19.02.2024
Династия священнического рода Саковичей
Сегодня слово «династия» вызывает странные ассоциации — то с певцами, то с сериалами. На самом же деле передача дела жизни по наследству живо по сей день — в Русской Православной Церкви и поныне служат потомки древних родов, одним из которых — родом Саковичей — справедливо гордится Республика Мордовия, где представители семьи более 400 лет стоят у Престола Господня
17.02.2024
Одна из основных проблем современной семьи
2024 год в нашем государстве объявлен Годом семьи. Поэтому сейчас особенно актуально поговорить о том, что современной ячейке общества помогает, а что мешает

Актуальное

Отчёт о работе Международной общественной организации «Союз православных женщин» в 2023 году | МОО «Союз православных женщин»
Отчёт о работе Международной общественной организации «Союз православных женщин» в 2023 году
Союз православных женщин в России и за рубежом | МОО «Союз православных женщин»
Союз православных женщин в России и за рубежом
К 105-летию Союза Православных Женщин (из истории создания) | МОО «Союз православных женщин»
К 105-летию Союза Православных Женщин (из истории создания)
пн
вт
ср
чт
пт
сб
вс
1
2
3
4
5
6
7
8
9
10
11
19
20
21
22
23
24
25
 
Октябрь 2020