Как искусственный интеллект становится человеком?
О сериале «Мир Дикого Запада»
19:15, 16 ДЕКАБРЯ 2016
В клубе Школы культурологии НИУ ВШЭ «Кто убил Лору Палмер» философы, филологи и социологи обсудили появление человеческого сознания, трансгуманизм и проблему «своих» и «чужих» в сериале «Мир Дикого Запада», а мы собрали основные тезисы.
Внимание! В тексте есть спойлеры.
Сериал канала HBO «Мир Дикого Запада» ("Westworld") бьет все зрительские рекорды и собирает многочисленные награды. Выход каждой серии сопровождался фанатскими теориями о смысле сюжетных решений.
По сюжету существует гигантский парк развлечений, полностью имитирующий мифологизированный Дикий Запад. На границе мира заканчивается Гражданская война, кто-то борется с индейцами, кто-то пасет коров, в городах работают салуны и бордели. За крупную сумму можно посетить парк, где свобода ничем не ограничена: драки и убийства, сексуальное насилие – все дозволено. Дело в том, что проститутками, бандитами и фермерами «работают» специально сконструированные андроиды, при этом полностью уверенные, что существуют они в реальности. Мощная команда корпорации стирает роботам память и вкладывает новые воспоминания, чинит их и делает новых, разрабатывает сюжеты приключений и контролирует тех андроидов, что стали слишком умны и самостоятельны.
Выпуск следующего сезона «Мира Дикого Запада» намечен на 2018 год, а до этого можно обсуждать все, что создатели сериала успели рассказать в первом сезоне.
Фото: HBO
Мир Дикого Запада: искусственный интеллект
Парк в стиле Дикого Запада можно увидеть прежде всего не местом развлечения, а сетью лабораторий, где создаются принципиально новые существа. Несмотря на то, что они проходят тест Тьюринга, у андроидов нечеловеческая форма восприятия реальности. Конститутивной особенностью человеческой природы является ее темпоральная ограниченность. Реальная граница между человеком и андроидом пролегает в сфере конечности человека и бесконечного воспроизводства личности (в каком бы то ни было смысле) у андроида. И тогда садизм постоянного посетителя парка – Человека в черном, который мучает андроидов, выглядит совсем иначе, если понять, что и его личные страдания, и страдания андроидов из-за него происходят в рамках его конечной жизни. А то, что творит он, происходит в жизни существ с неограниченной темпоральной перспективой. Если говорить об экономике боли и зла, то он оказывается довольно невинным человеком.
До недавнего времени почти все истории писались про людей. Но прямо сейчас где-нибудь в Google делают нейросеть, которая, например, улучшает машинный перевод с китайского на английский. Это тоже история и тоже текст, но уже не человеческий. Современные люди – творцы какого-то последнего творения, которое в людях уже не будет нуждаться. Пока человек еще понимает, что делает его изобретение, но никаких гарантий, что так и будет продолжаться, нет.
Писатель-фантаст Вернор Виндж писал о технологической сингулярности – точке в истории технического развития, после которой прогресс усложниться настолько, что перестанет быть предсказуемым. Зачастую эту точку связывают именно с созданием полноценного искусственного интеллекта. Люди чувствуют тревогу в связи с ускорением развития. И сериал «Мир Дикого Запада» с его прекрасными и агрессивными андроидами – довольно успешная попытка отрефлексировать эту тревогу.
Парк в стиле Дикого Запада можно увидеть прежде всего не местом развлечения, а сетью лабораторий, где создаются принципиально новые существа. Несмотря на то, что они проходят тест Тьюринга, у андроидов нечеловеческая форма восприятия реальности. Конститутивной особенностью человеческой природы является ее темпоральная ограниченность. Реальная граница между человеком и андроидом пролегает в сфере конечности человека и бесконечного воспроизводства личности (в каком бы то ни было смысле) у андроида. И тогда садизм постоянного посетителя парка – Человека в черном, который мучает андроидов, выглядит совсем иначе, если понять, что и его личные страдания, и страдания андроидов из-за него происходят в рамках его конечной жизни. А то, что творит он, происходит в жизни существ с неограниченной темпоральной перспективой. Если говорить об экономике боли и зла, то он оказывается довольно невинным человеком.
Фото: HBO
Мир Дикого Запада: как стать человеком
В сериале «Мир Дикого Запада» внутри корпорации, управляющей андроидами, есть несколько уровней сотрудников: есть «мясники», которые чинят роботов, есть «поведенщики», которые учат машины повседневным действиям, есть специалисты более высокого уровня – те, что занимаются сюжетами, и есть создатели Парка: Форд и таинственно погибший Арнольд, которых волнует не создание похожих на людей роботов, а создание сознания.
Андроиды, показанные в «Мире Дикого Запада», безусловно, проходят тест Тьюринга – их невозможно отличить от живых людей. При этом человеческими правами они не обладают: не могут покинуть парк и запрограммированы так, чтобы не причинять вред гостям даже при самозащите. Здесь, конечно, возникает довольно очевидная тема людей, которых другие люди не считают людьми, – например, современных мигрантов или представителей ЛГБТ. Так что вполне возможно, что в ближайшем будущем встанут вопросы о правах андроидов: заслуживают ли они свободы, можно ли приравнять андроидов к людям, а если нет, то становится ли человек, помогающий андроидам (как хирург Феликс в сериале), предателем.
В сериале «Мир Дикого Запада» внутри корпорации, управляющей андроидами, есть несколько уровней сотрудников: есть «мясники», которые чинят роботов, есть «поведенщики», которые учат машины повседневным действиям, есть специалисты более высокого уровня – те, что занимаются сюжетами, и есть создатели Парка: Форд и таинственно погибший Арнольд, которых волнует не создание похожих на людей роботов, а создание сознания.
Фото: HBO
Так же, как эта корпорация, устроены и аспекты «человечности» андроидов: их восстанавливаемая телесность, пройденный тест Тьюринга, и основное содержание сериала – возникновение самосознания и феноменологического субъективного опыта. И «Мир Дикого Запада» иллюстрирует несколько прекрасных путей к появлению сознания, а значит, к появлению человека. Один из этих вариантов – сны. Андроид Мейв видит сны, которые становятся ключом к ее воспоминаниям о другой жизни и к осознанию нереальности происходящего в мире Дикого Запада. В современном психоанализе принято рассматривать сон как голос разных инстанций и прежде всего – как голос Себя-глубинного. Следующий путь – тоже вполне фрейдистский, где самосознание восходит к убийствам. Андроид Долорес учится защищаться и даже убивает своего создателя. А символический сюжет об убийстве отца опять же связан со становлением супер-эго.
Но если как андроиды становятся людьми, в сериале становится ясно, то положение людей – куда более загадочное. Создатели Парка знают все не только про своих андроидов, но и про своих посетителей, и возможно, именно эта информация – самая ценная. И тогда возникает еще более сложный вопрос: являются ли те, кто считает себя людьми, людьми по-настоящему, и если их так просто – бихевиористски – мотивировать, то чем они отличаются от роботов?
Но если как андроиды становятся людьми, в сериале становится ясно, то положение людей – куда более загадочное. Создатели Парка знают все не только про своих андроидов, но и про своих посетителей, и возможно, именно эта информация – самая ценная. И тогда возникает еще более сложный вопрос: являются ли те, кто считает себя людьми, людьми по-настоящему, и если их так просто – бихевиористски – мотивировать, то чем они отличаются от роботов?