Тезисы к докладу митрополита Калужского и Боровского Климента на конференции «Вызовы искусственного интеллекта» в Переславле-Залесском

Современная Церковь каждый день сталкивается с теми или иными плодами прогресса. Это происходит в научно-технической сфере, культурной, общественной. Образ мышления человека стремительно изменяется. В потоке этих изменений всё больше временного и всё меньше вечного. Не дело Церкви давать научную или политическую оценку новым явлениям жизни, возникшим под влиянием прогресса. Но Церковь обязана давать им нравственную оценку с точки зрения учения Христа, имеющего вечную ценность.

В частности, особое внимание Церковь должна уделить цифровизации, роботизации, искусственному интеллекту, глубоко вошедшим в нашу жизнь. Разработка рекомендаций по этим вопросам переданы в ведение Межсоборного присутствия. Ими занимается Комиссия по вопросам общественной жизни, культуры, науки и информации.

Исследуя их, не следует впадать в две крайности. Прежде всего, совершенно неправильно было бы махнуть на них рукой и сказать: «Церковь этим не занимается». Церковь занимается всем, что занимает умы и сердца многомиллионных масс людей. Кроме того, недопустимо и безоглядное ретроградство. «Мы не можем говорить: всё это душевредные новинки, Церковь их осуждает!» Технические открытия – результат действия в людях дара Божьего, то есть таланта к научной работе. Они порой несут безусловную пользу обществу. А вред, который они также могут принести, связан с неразумным или прямо злонамеренным использованием. Ножом можно отрезать хлеб, ножом можно и зарезать человека. Точно так же и сложнейшие информационные технологии: способны сильно облегчить жизнь, но также способны стать орудием оскорбления, ограбления, даже убийства в преступных руках.

Нельзя сказать, что прежде христианская Церковь была равнодушна к проблеме Искусственного интеллекта (далее ИИ). Так, например, митрополит Месогейский и Лавреотский Николай сделал обширный доклад об искусственном интеллекте.

Среди прочего, владыка Николай сказал, что Церковь обязана реагировать на постоянно изменяющийся окружающий мир. Это абсолютно правильная мысль. Постоянно меняющаяся обстановка должна быть оценена в свете вечной истины.

Искусственный интеллект оценивается докладчиком как только пока лишь механическое обучение и выполнение вычислительных задач. При этом, для каждой задачи создается свой искусственный интеллект, который не может носить универсальный характер. Поэтому вместо понятия «искусственный интеллект» митр. Николай предлагает говорить о «компьютерной сообразительности», потому что ИИ себя не осознает и не может ставить себе самостоятельных задач, а движется лишь по пути обработки предоставленных ему данных. Вместе с тем, развитие ИИ стимулирует также технологии, которые, в перспективе, заставят людей трансформировать себя в соревновании с ИИ: в духе трансгуманизма подключая свой головной мозг к компьютеру и расширяя тем самым свои собственные возможности.

Современная наука дает человеку ложное ощущение того, что он «знает все» и «может все». Трансгуманизм, нацеленный на кардинальное улучшение человека, склонен превозносить человека, как способного улучшить самого себя и, значит, превзойти своего Творца. Духовная опасность трансгуманизма заключается в отрицании Бога и самообожествлении.

Риски развития ИИ в Европе осознают и подходят к ней настолько серьезно, что в апреле 2019 года в Европейском Союзе был принят «Нравственный Кодекс» ИИ. Цель кодекса – ограничить и ввести в некоторые рамки ИИ, дабы закрепить права человека. Основные положение этого «Кодекса» следующие:

1. ИИ не должен ставить под сомнение человеческую автономность;

2. ИИ должен быть безопасен для человека;

3. ИИ должен сохранять тайну личности и ее данных;

4. Использование ИИ должно быть прозрачным;

5. Использование ИИ должно быть доступно для всех, независимо от пола, возраста, национальности и т.д.;

6. Технологии ИИ должны поддерживать экологию и положительные общественные изменения;

7. ИИ должен быть подчинен и контролируем законом.

В Издательском совете Русской православной церкви 17 февраля 2020 года прошел круглый стол, посвященный проблеме вызовов со стороны ИИ. На нем выступили писатели Эдуард Геворкян и Сергей Сизарев, обращавшиеся в своих произведениях к «бонусам» ИИ, равно как и к теме опасностей, которые потенциально могут от него исходить. Докладчики выразили ряд опасений в связи со слабо контролируемым развитием технологий ИИ. Приведу некоторые из них.

Во-первых, системы слежки и сбора информации, отданные под управление ИИ, просто не оставят в жизни людей личного, т.е. закрытого пространства. А это ведет к утрате свободы и превращает человека в очень уязвимое существо.

Во-вторых, ИИ используется в автономной боевой технике. Дальнейшее его совершенствование может очень скоро привести к тому, что права на окончательное решение об уничтожении «живых целей», т.е. людей, могут быть переданы от операторов самому ИИ. Беспилотник, управляемый ИИ, не имеет нравственности и не терзается совестью, это просто машина уничтожения.

В-третьих, через трансгуманизм, требующий психофизиологической трансформации человека на такую глубину, что образ Божий будет в нем необратимо искажен, технологии ИИ могут связываться с откровенно антихристианской идеологией.

Итак, Церкви подобает роль нравственного Стража. Овеянная мудростью вечности, она стоит между человечеством и пропастью, и ловит в шаге от обрыва тех, кто заигрался, кто легкомысленно ставит на кон как собственное благополучие и саму жизнь, так и благополучие и жизнь ближних. Церковь ничего не тормозит и не запрещает. Но Она имеет право и обязанность предостерегать от ошибок, сделанных поспешно. Прогресс останавливать не нужно, да и невозможно. Однако следует пристально вглядываться в проблему «цены» тех или иных изменений, происходящих в нашем обществе.

В этом контексте нам и следует провести обсуждение проблемы Искусственного интеллекта.

Пресс-служба МОО «Союз православных женщин»

29.04.2021
Болонский процесс и национальная традиция
Ведущиеся в последние годы дискуссии о будущем системы высшего образования в России сопровождались размежеванием двух крайних подходов к определению модели образовательного процесса
31.03.2021
Принятие Конвенции о защите семьи как продолжение конституционной реформы
В течение уже нескольких десятилетий в России продолжается демографический кризис, происходит сокращение численности населения. Как правило, говорят о том, что в нашей стране очень высокая смертность. В развитых странах Запада смертность ниже в полтора-два раза, чем в современной России. Но главная причина – не в высокой смертности, которую, конечно, необходимо снижать, а в катастрофически низкой рождаемости
15.03.2021
Дети - предмет воспитания, а не спора, торга и манипуляций!
4 марта 2021 года прошла научно-практическая конференция на тему: «Правовые и законодательные аспекты поддержки семей и семейных ценностей в Российской Федерации». На конференции были рассмотрены проблемы, препятствующие повышению рождаемости в нашей стране, но почему-то никак не была затронута тема фактического выдворения отца из семьи, а ведь отец – это основа и стержень любой семьи

Актуальное

Открытое письмо-обращение Международной общественной организации «Союз православных женщин» по выступлению певицы Manizha от России на конкурсе «Евровидение-2021» | МОО «Союз православных женщин»
Открытое письмо-обращение Международной общественной организации «Союз православных женщин» по выступлению певицы Manizha от России на конкурсе «Евровидение-2021»
Отчёт о работе Международной общественной организации «Союз православных женщин» за 2020 год | МОО «Союз православных женщин»
Отчёт о работе Международной общественной организации «Союз православных женщин» за 2020 год
К 100-летию Союза Православных Женщин (из истории создания) | МОО «Союз православных женщин»
К 100-летию Союза Православных Женщин (из истории создания)
пн
вт
ср
чт
пт
сб
вс
1
2
3
4
5
6
7
8
9
10
11
19
20
21
22
23
24
25
 
Октябрь 2020