Тезисы к докладу митрополита Калужского и Боровского Климента на конференции «Вызовы искусственного интеллекта» в Переславле-Залесском

Современная Церковь каждый день сталкивается с теми или иными плодами прогресса. Это происходит в научно-технической сфере, культурной, общественной. Образ мышления человека стремительно изменяется. В потоке этих изменений всё больше временного и всё меньше вечного. Не дело Церкви давать научную или политическую оценку новым явлениям жизни, возникшим под влиянием прогресса. Но Церковь обязана давать им нравственную оценку с точки зрения учения Христа, имеющего вечную ценность.

В частности, особое внимание Церковь должна уделить цифровизации, роботизации, искусственному интеллекту, глубоко вошедшим в нашу жизнь. Разработка рекомендаций по этим вопросам переданы в ведение Межсоборного присутствия. Ими занимается Комиссия по вопросам общественной жизни, культуры, науки и информации.

Исследуя их, не следует впадать в две крайности. Прежде всего, совершенно неправильно было бы махнуть на них рукой и сказать: «Церковь этим не занимается». Церковь занимается всем, что занимает умы и сердца многомиллионных масс людей. Кроме того, недопустимо и безоглядное ретроградство. «Мы не можем говорить: всё это душевредные новинки, Церковь их осуждает!» Технические открытия – результат действия в людях дара Божьего, то есть таланта к научной работе. Они порой несут безусловную пользу обществу. А вред, который они также могут принести, связан с неразумным или прямо злонамеренным использованием. Ножом можно отрезать хлеб, ножом можно и зарезать человека. Точно так же и сложнейшие информационные технологии: способны сильно облегчить жизнь, но также способны стать орудием оскорбления, ограбления, даже убийства в преступных руках.

Нельзя сказать, что прежде христианская Церковь была равнодушна к проблеме Искусственного интеллекта (далее ИИ). Так, например, митрополит Месогейский и Лавреотский Николай сделал обширный доклад об искусственном интеллекте.

Среди прочего, владыка Николай сказал, что Церковь обязана реагировать на постоянно изменяющийся окружающий мир. Это абсолютно правильная мысль. Постоянно меняющаяся обстановка должна быть оценена в свете вечной истины.

Искусственный интеллект оценивается докладчиком как только пока лишь механическое обучение и выполнение вычислительных задач. При этом, для каждой задачи создается свой искусственный интеллект, который не может носить универсальный характер. Поэтому вместо понятия «искусственный интеллект» митр. Николай предлагает говорить о «компьютерной сообразительности», потому что ИИ себя не осознает и не может ставить себе самостоятельных задач, а движется лишь по пути обработки предоставленных ему данных. Вместе с тем, развитие ИИ стимулирует также технологии, которые, в перспективе, заставят людей трансформировать себя в соревновании с ИИ: в духе трансгуманизма подключая свой головной мозг к компьютеру и расширяя тем самым свои собственные возможности.

Современная наука дает человеку ложное ощущение того, что он «знает все» и «может все». Трансгуманизм, нацеленный на кардинальное улучшение человека, склонен превозносить человека, как способного улучшить самого себя и, значит, превзойти своего Творца. Духовная опасность трансгуманизма заключается в отрицании Бога и самообожествлении.

Риски развития ИИ в Европе осознают и подходят к ней настолько серьезно, что в апреле 2019 года в Европейском Союзе был принят «Нравственный Кодекс» ИИ. Цель кодекса – ограничить и ввести в некоторые рамки ИИ, дабы закрепить права человека. Основные положение этого «Кодекса» следующие:

1. ИИ не должен ставить под сомнение человеческую автономность;

2. ИИ должен быть безопасен для человека;

3. ИИ должен сохранять тайну личности и ее данных;

4. Использование ИИ должно быть прозрачным;

5. Использование ИИ должно быть доступно для всех, независимо от пола, возраста, национальности и т.д.;

6. Технологии ИИ должны поддерживать экологию и положительные общественные изменения;

7. ИИ должен быть подчинен и контролируем законом.

В Издательском совете Русской православной церкви 17 февраля 2020 года прошел круглый стол, посвященный проблеме вызовов со стороны ИИ. На нем выступили писатели Эдуард Геворкян и Сергей Сизарев, обращавшиеся в своих произведениях к «бонусам» ИИ, равно как и к теме опасностей, которые потенциально могут от него исходить. Докладчики выразили ряд опасений в связи со слабо контролируемым развитием технологий ИИ. Приведу некоторые из них.

Во-первых, системы слежки и сбора информации, отданные под управление ИИ, просто не оставят в жизни людей личного, т.е. закрытого пространства. А это ведет к утрате свободы и превращает человека в очень уязвимое существо.

Во-вторых, ИИ используется в автономной боевой технике. Дальнейшее его совершенствование может очень скоро привести к тому, что права на окончательное решение об уничтожении «живых целей», т.е. людей, могут быть переданы от операторов самому ИИ. Беспилотник, управляемый ИИ, не имеет нравственности и не терзается совестью, это просто машина уничтожения.

В-третьих, через трансгуманизм, требующий психофизиологической трансформации человека на такую глубину, что образ Божий будет в нем необратимо искажен, технологии ИИ могут связываться с откровенно антихристианской идеологией.

Итак, Церкви подобает роль нравственного Стража. Овеянная мудростью вечности, она стоит между человечеством и пропастью, и ловит в шаге от обрыва тех, кто заигрался, кто легкомысленно ставит на кон как собственное благополучие и саму жизнь, так и благополучие и жизнь ближних. Церковь ничего не тормозит и не запрещает. Но Она имеет право и обязанность предостерегать от ошибок, сделанных поспешно. Прогресс останавливать не нужно, да и невозможно. Однако следует пристально вглядываться в проблему «цены» тех или иных изменений, происходящих в нашем обществе.

В этом контексте нам и следует провести обсуждение проблемы Искусственного интеллекта.

Пресс-служба МОО «Союз православных женщин»

21.10.2020
Опасность цифровизации и тотального контроля над личностью: православный взгляд
Для понимания происходящих процессов, которые получили название «цифровизация», следует углубится в историю, созерцаемую через призму православного восприятия
19.10.2020
Патриотизм невозможно скрестить с космополитизмом
Чем гордятся молодые люди? Какой страной? Достижениями прошлых заслуг наших дедушек и прадедушек? Или гордятся страной нынешней в сегодняшнем состоянии?
13.10.2020
Против России ведётся информационная война, но аргументы наших оппонентов не выдерживают столкновения с реальностью
Одним из знаковых мероприятий научно-деловой программы завершившегося на прошлой неделе Международного военно-технического форума «Армия-2020» стал круглый стол «Психологическая оборона. Борьба за историю – борьба за будущее», на котором представители Минобороны России и экспертного сообщества обсудили вопросы психологической обороны, необходимость сохранения исторической правды и формирования образа армии в современном обществе

Актуальное

Отчет о работе Международной общественной организации «Союз православных женщин» за 2019 год | МОО «Союз православных женщин»
Отчет о работе Международной общественной организации «Союз православных женщин» за 2019 год
К 100-летию Союза Православных Женщин (из истории создания) | МОО «Союз православных женщин»
К 100-летию Союза Православных Женщин (из истории создания)
пн
вт
ср
чт
пт
сб
вс
1
2
3
4
5
6
7
8
9
10
11
19
20
21
22
23
24
25
26
27
28
29
30
31
 
Октябрь 2020