Издательский Совет Русской Православной Церкви: Люди становятся роботами или роботы – людьми

Главная Написать письмо Поиск Карта сайта Версия для печати

Поиск

ИЗДАТЕЛЬСКИЙ СОВЕТ
РУССКОЙ ПРАВОСЛАВНОЙ ЦЕРКВИ
ХРИСТОС ВОСКРЕСЕ!

Люди становятся роботами или роботы – людьми 19.04.2022

Люди становятся роботами или роботы – людьми

Беседа писателей Павла Басинского и Алексея Варламова об искусственном интеллекте

Впервые термин "искусственный интеллект" в 1956 году употребил американский информатик Джон Маккарти. Так что ему почти семьдесят лет. Но до сих пор искусственный интеллект вызывает разные чувства и рождает противоречивые прогнозы. Кто-то считает, что он попросту невозможен, кто-то видит в нем главную угрозу для человечества, а кто-то утверждает, что нас ждет светлое будущее, где умные роботы будут не только выполнять все рутинные работы, но и лучше нас решать все человеческие проблемы. Об этом и о том, как эта тема отражается в мировой литературе, мы поговорили с известным писателем, ректором Литературного института Алексеем Варламовым.

— У меня не выходит из памяти передача "Человек в меняющемся мире" в серии передач "Агора", которую ведет на канале "Культура" Михаил Швыдкой. Там был солидный состав участников. Кроме тебя — Александр Каплан, академик РАН, директор Института перспективных исследований мозга МГУ; Андрей Себрант, профессор ВШЭ, директор по стратегическому маркетингу "Яндекс"; Анна Серебряникова, президент Ассоциации больших данных, управляющий партнер компании nlogic; Андрей Незнамов, управляющий директор центра регулирования Искусственного интеллекта Сбербанка; Юрий Минкин, руководитель департамента разработки беспилотных транспортных средств компании Cognitive Pilot. Разговор был очень интересный, но, как выяснилось, вы обсуждали нечто несуществующее — искусственный интеллект. Считается, что искусственный интеллект — это "свойство интеллектуальных систем выполнять творческие функции, которые традиционно считаются прерогативой человека". Если говорить на простом языке, это способность компьютера обучаться, принимать решения и выполнять действия, свойственные человеческому мозгу. Вроде бы ничего особенного, мы давно этим пользуемся. Но почему разговоры об искусственном интеллекте, который якобы заменит собой человека, не смолкают и уже стали такой страшилкой? Вот появится искусственный интеллект, и человек будет больше не нужен. При этом Анна Серебряникова сказала, что искусственного интеллекта не существует, его выдумали писатели. Ты готов отвечать за наш писательский цех?

— Разговор действительно получился любопытный, особенно учитывая, что выступающие все были из разных областей знания. А то, что начали с литературы, мне даже понравилось. Это и мой любимый Василий Розанов говорил: во всем виноваты писатели. На самом деле, я думаю, что идея некоего разума, не связанного с человеческим мозгом, с человеком вообще, интересует нас с самых древних времен. Все языческие религии, наделявшие сознанием природные стихии, небесные светила, деревья, животных, разных волков-оборотней, все наши сказки и мифы, включая еврейское предание о Големе или греческую легенду про Галатею, — из этой сферы. Человеку как будто одиноко в окружающем мире, и он ищет то ли друга, то ли врага, и это становится отличным материалом для литературы.
Тут можно вспомнить и другого моего любимого писателя — Александра Грина с его оживающими манекенами, и Станислава Лема с "Солярисом", и роботов Карела Чапека и Айзека Азимова... Если говорить о последних книгах — это великолепный роман английского писателя японского происхождения, лауреата Нобелевской премии Кадзуо Исигуро "Клара и солнце", который вошел в длинный список премии "Ясная Поляна" в иностранной номинации в этом году. Да и одна из предыдущих его книг "Не отпускай меня" тоже на эту тему написана. Благодатное поле! Другое дело, что сегодня сказка стала былью. И тут возникает вопрос: а что со всем этим делать?

— Подожди! Никакой былью она не стала. Для того чтобы искусственный интеллект стал для нас реальностью, он должен быть персонифицирован, то есть обрести личность. Но нет никаких Големов и Великих Гудвинов. Или вспомним более близкую историю — американский фильм "Газонокосильщик", которому, впрочем, в этом году уже исполняется тридцать лет. Там простой парень, став компьютерным гением, буквально растворяется в Сети и начинает управлять миром. Он заставляет звонить все телефоны, а ночью везде врубает электрический свет. То есть он пока еще только хулиганит, но обещает нечто большее.
Ну и где этот Великий Хакер, которым нас пугали тридцать лет назад? Куда больше нас заботят реальные хакеры, как говорится, хакеры "с человеческим лицом", которые кошмарят банки, министерства обороны и спецслужбы всех стран, а заодно их предвыборные штабы. Но это не искусственный интеллект, а использование компьютерных технологий конкретными людьми. Мы все ими пользуемся так или иначе, и проблема в том, как это влияет на нас. Хорошо это или плохо?
Но ты правильно вспомнил Исигуро. Во время передачи ты точно сказал, что он переводит проблему трансформации человека в киборга в "сердечную" плоскость. Об этом и его прежний пронзительный роман (и одноименный фильм 2010 года) "Не отпускай меня", где детей-клонов выращивают для замены органов настоящих людей. И дети знают об этом, мужественно принимают свою судьбу, но по-человечески страдают.
В "Кларе и солнце" — несколько другая тема. Люди создают андроидов, которые заменяют живым подросткам друзей и подруг: ИД (Искусственный Друг) и ИП (Искусственная Подруга). Это уже не клоны, а роботы-андроиды, но со своими опять-таки человеческими страданиями.
Исигуро — отличный писатель, но он, мягко говоря, неоригинален. "Страдающие" андроиды, у которых просыпаются человеческие эмоции, появились в литературе и кино как минимум полвека назад, если не раньше. Я напомню, что в 1967 году на "Ленфильме" была снята картина Ильи Ольшвангера "Его звали Роберт" с Олегом Стриженовым и Марианной Вертинской в главных ролях. Там поднималась тема, как будут страдать "очеловеченные" роботы. Как, став во всем похожими на людей, они начнут переживать наши человеческие чувства: любовь, ревность, одиночество и т.п. Этот фильм вышел в СССР почти за двадцать лет до "Терминатора", не говоря уже о нашем недавнем сериале "Проект "Анна Николаевна", где полицейский-андроид, женщина, натурально влюбляется в своего напарника.
О чем это говорит? О том, что литература и кино продолжают решать те же самые темы, что и раньше, только в более современных образах.
Об этом вы тоже говорили во время передачи. О том, что в эпоху слишком стремительного развития информационных технологий задача литературы — сохранение традиционных ценностей.

— Исигуро, кстати, об этом отчасти и пишет. Страшная тревога наполняет его роман. Другое дело, что это не паника, не спекуляция на читательских настроениях, а именно размышление, сердечная история, взгляд на человека со стороны. Важно, где и когда это происходит и с кем. Какое светит солнце, как выглядят люди, что чувствуют, о чем говорят и мечтают. Важны не просто смыслы, но "вещество жизни". Литература скорее про это, чем про отстаивание традиционных ценностей. Для этих же целей у нас есть целый научный институт в Москве.

— Что за институт?

— Я имею в виду Российский институт культурного и природного наследия имени Д.С. Лихачева в Москве, который подготовил проект указа о традиционных ценностях, но документ был весьма неласково принят в театральной и кинематографической среде. Литературную спросить не успели...
— Писатели обычно в такие споры не вмешиваются. Писателю любой указ не указ, потому что ему нечего терять, кроме своего ноутбука. Деятелям театра и кино в этом смысле гораздо труднее, они зависят от государственного финансирования, особенно репертуарные театры. Поэтому к любого рода "нормативам" относятся с тревогой, понимая, что это новые правила игры, с которыми им придется работать, добиваясь финансового обеспечения.
Но насчет литературного пессимизма ты прав. Как писал Пушкин в "Домике в Коломне": "От ямщика до первого поэта / Мы все поем уныло..." Я еще добавлю пессимизма, причем от лица ученого, который принимал участие в вашей дискуссии. Александр Каплан, который занимается проблемами человеческого мозга, сказал, что главная опасность не в появлении искусственного интеллекта, а в том, что человеческий мозг не справляется с современным потоком информации. На самом деле он не изменился со времен пещерных людей, а это было, по разным гипотезам, от 35 до 50 тысяч лет назад.
Я сначала удивился этому его заявлению, а потом вдруг подумал...
На наскальной живописи мы видим фигурки людей, которые убивают мамонта палками с острыми наконечниками. Но такими же пиками сражалась конница во время Первой мировой войны. Понятно, что тогда уже были изобретены новые орудия убийства, включая отравляющие газы. Но любопытно, что и палки с наконечниками тоже остались. Как и непостижимая страсть человека убивать живое, и не только на охоте.И я согласен с Александром Капланом, что наш мозг не справляется с чудовищным потоком новой информации.

— Я лично очень ощущаю плотность времени. И не только информационную. Другое дело, что прежде подача информации была не такая острая и действенная, как сейчас. Но что лучше: дефицит или избыток, бедность или роскошь информационного поля? Это большой вопрос. Я категорически против цензуры, но иногда ощущаю себя невольником интернета, в котором смотрю новости на разных сайтах, сравниваю, анализирую, а потом беру в руки книгу, да хотя бы из длинного списка "Ясной Поляны", и вдруг понимаю, что вот это подлинное, а то преходящее, мусорное. И это я еще не играю в соцсети. А если человек выкладывает свои мысли, фотографии, посты и перепосты в соцсети, то складывается впечатление, что ради этого, собственно, он и живет. Пусть все знают, какой у меня кот, что я ел сегодня на ужин и что думаю про весь мир. Нет, все-таки больше всего я ценю те дни в году, когда уезжаю на северное озеро подальше от этого сумасбродства. Но и там, если не клюет, а интернет ловится, достаю зачем-то телефон и смотрю, что там в мире делается. Сеть нас всех уловила, только одни это ощущают, а другие нет.

— Еще вы интересно говорили о грядущей эпохе беспилотного транспорта. Как всегда остроумный Михаил Швыдкой сказал, что он сильно беспокоится за беспилотное такси не потому, что оно будет ездить неправильно, а потому, что неправильно будут ездить те, кто на беспилотники не пересядут. "Умного" беспилотного водителя будет просто "клинить" в этой ситуации, ведь этот условный "он" (или "она") будут уверены, что все управляют автомобилями правильно и соблюдают правила дорожного движения. Был такой старый, еще советских времен анекдот про таксиста-кавказца (национальность не уточняем), который едет на красный свет и стоит на зеленый. На красный — потому что он джигит, и ему все нипочем. А стоит на зеленый, потому что справа по перекрестку едет другой джигит. Ты, кстати, готов пересесть в беспилотники и отказаться от радости личного вождения?

— Нет, я слишком люблю водить машину. И нас таких много.

— Я хочу закончить разговор на позитивной ноте. В районе, где я живу, рядом с отделением почты стоят два милейших робота-почтальона от "Яндекса". Они развозят посылки по дворам. Подъезжают к подъезду, посылают месседж заказчику, тот спускается, подносит с экрана телефона присланный QR-код, открывается крышка, а там — заветная посылочка. Иногда по дороге в магазин я вижу, как они ездят по улицам, пересекают пешеходные переходы (строго на зеленый свет!), как они пару минут думают, прежде чем объехать какой-нибудь столб, как "разъезжаются" с пешеходами... Все это выглядит удивительно трогательно! Честное слово, я один раз не удержался и погладил этого чудесного "почтальона", ну как, знаешь, собачку, которая рядом с тобой виляет хвостом. Но самое забавное, что раньше возле почты стоял один робот. А потом их стало двое. Такая семейная пара образовалась. Вот жду, когда у них появятся детишки... Ты прав! Главное — не интеллект, человеческий или искусственный. Главное — сердце! Его не обманешь.

Источник

Алексей Варламов – лауреат Патриаршей литературной премии 2013 года









Лицензия Creative Commons 2010 – 2022 Издательский Совет Русской Православной Церкви
Система Orphus Официальный сайт Русской Православной Церкви / Патриархия.ru