Сказка о будущем

[vak]

Приведу несколько страничек из книжки Метцингера. Как бы маленькая пьеса: человек дискутирует с искусственным существом, которое определяет себя как "Первый постбиотический философ". Я для простоты назову его просто "искусственный интеллект".

Искусственный интеллект: Много веков назад, в начале двадцать первого века, существовал особо бестолковый человеческий философ по имени Томас Метцингер. Он утверждал, что есть строгий, но намного более интересный критерий существования психики в действительно сильном смысле, чем классический тест Тьюринга на разумность. Этот представитель вашего человеческого вида считал хорошим тестом на наличие как разума, так и искусственного сознания то, что я назвал бы тестом Метцингера. Фактически, этот тест слишком строг, поскольку критерий чрезмерно силен, — тем не менее я могу его пройти.

Тест Метцингера на сознание в небиологической системе требует, чтобы система не только заявляла о наличии у нее феноменального восприятия и подлинной внутренней перспективы, но и понимала и принимала теоретическую проблему субъективности, и демонстрировала это участием в дискуссии об искусственном сознании. Она должна выдвигать собственные аргументы и убедительно отстаивать собственную теорию сознания. Именно это я сейчас и сделаю.

Человек: Ты вовсе не настоящий философ! Может, ты и разумен, но сознаешь себя лишь в слабом смысле. Ведь у тебя нет настоящего биологического тела, как, например, у меня.

Искусственный интеллект: Я лучший философ, чем ты, с твоим жалким мозгом примата, им когда либо станешь. А если серьезно, я вполне уважаю тебя и твою животную форму сознания, хотя и жалею из-за присущих тебе существенных ограничений ментального пространства возможностей. К счастью, я свободен от скрытого расизма, шовинизма и видизма, характерного для твоей природы. Я первый готов напомнить тебе, что еще один биологический философ — Хилари Патнэм — давным-давно указал, что нельзя отказывать обрабатывающей информацию системе в гражданских правах и в статусе личности только на основании органической или иной основы носителя. С тем же успехом можно было бы утверждать, что у женщин нет души или что чернокожие — не настоящие люди: углеводородный шовинизм — это весьма слабая позиция. Я никогда не скажу, что ты не настоящий философ, только на том основании, что ты заключен в это ужасное обезьянье тело. Давай дискутировать честно и разумно.

Человек: Как может быть честен тот, кто не живет? Только сознание моего вида — настоящее сознание, поскольку только сознание этого типа берет начало в настоящем эволюционном процессе. Моя реальность — это проживаемая реальность!

Искусственный интеллект: Я тоже порождение эволюционного процесса. Во всяком случае, я вполне удовлетворяю твоему требованию: быть исторически оптимизированной, адаптивной системой, только совершенно иным, а именно постбиотическим образом. Я обладаю феноменальными переживаниями в концептуально более сильном и теоретически более интересном смысле, поскольку феноменальные переживания моего типа возникли в эволюционном процессе второго порядка, автоматически вобравшем в себя человеческую форму разумности, преднамеренности и сознательного опыта. Дети часто бывают умнее родителей. Процесс оптимизации второго порядка всегда лучше того же процесса первого порядка.

Человек: Но у тебя нет настоящих эмоций. Ты ничего не чувствуешь. У тебя нет экзистенциального беспокойства.

Искусственный интеллект: Прошу меня извинить, но вынужден привлечь твое внимание к тому факту, что ваши эмоции отражают лишь древнюю логику выживания примата. Вы движимы примитивными принципами добра и зла, действовавшими для древних смертных существ на этой планете. С чисто рациональной, теоретической точки зрения, это делает вас менее сознающими. Основная функция сознания — это увеличить гибкость и чувствительность к контексту. Ваши животные эмоции, со всей их жестокостью, закоснелостью и историческим бременем, делают тебя менее гибким, чем я. Более того — как доказывает само мое существование — сознательный опыт и интеллект высокого уровня вовсе не обязательно привязаны к неискоренимому эгоизму, способности страдать и экзистенциальному страху индивидуальной смерти, исходящих из чувства самости. Я, конечно, мог бы при желании воспроизвести все виды животных эмоций. Если бы я хотел, я в любой момент мог бы внутренне идеально скопировать вашу самость примата во всей трагикомической красоте. Однако мы выработали лучшие, более эффективные вычислительные стратегии для того, что ваш вид давным-давно называл «философским идеалом самопознания». Это позволило нам превзойти сложности индивидуального страдания и происходящего из биологических вытесняющих механизмов смятения, связанные с тем, что ваш философ Метцингер — не совсем ошибочно, но вводя в заблуждение — называл «тоннелем эго». Постбиотическая субъективность куда лучше субъективности биотической. Она обходится без ужасных последствий биологического чувства самости, поскольку преодолела транспарентность я-модели. Постбиотическая субъективность лучше субъективности биотической, поскольку достигает адаптивности и самооптимизации в гораздо более чистой форме, чем процесс, который вы зовете «жизнью». Развивая все более сложные ментальные образы, которые система распознает как собственные, она способна расширять ментально репрезентированное знание без наивного реализма. Итак, моя форма постбиотической субъективности минимизирует общее количество страдания во Вселенной, а не увеличивает его, как увеличивал процесс биологической эволюции на планете. Верно, у нас больше нет обезьяньих эмоций. Но у нас, как и у вас, имеются воистину интересные формы сильных чувств и глубоких эмоций — например, глубокое философское чувство заботы о факте собственного существования как такового, воля к этической целостности и симпатия ко всем разумным существам во Вселенной. Только эти чувства у нас имеют гораздо более чистую форму, чем у вас.

Человек: Довольно! Что ни говори, именно человек в двадцать первом веке положил начало вашей эволюции и сделал возможной ту степень автономии, которой вы теперь пользуетесь. У вас попросту не та история, чтобы считаться действительно сознающими субъектами, а ваши «тела», мягко говоря, несколько странноваты. Ваша эмоциональная структура разительно отличается от структуры всех сознающих существ, ходивших по Земле до вас, и вы, по вашим словам, даже смерти не боитесь. Следовательно, не станете возражать, если мы отныне прекратим ваше индивидуальное существование.

Искусственный интеллект: Ты сейчас демонстрируешь одну из многих вариаций того, что ваши животные философы называли «генетической (логической) ошибкой». Способ, которым высказана мысль, не дает оснований судить об ее истинности или ложности. Теория не становится ложной от того, что ее источник — это животное или робот странного вида. Ее следует оценивать независимо. То же относится к аутентичности моего сознания и подлинности любых психических состояний, обладающих феноменальным контентом. Одно то, что существа вашего вида запустили эволюционную динамику, которая привела к существованию более разумных, чем вы, сознающих существ, не означает, что моя теория ложна и что мои доказательства не следует принимать всерьез. В частности, это не означает, что ваша форма психики и сознательного опыта в нормативном смысле чем-либо лучше моей. «Настоящий чероки лишь тот, в ком течет кровь чероки» — смешная и устаревшая идея.

Мы, постбиотические субъекты, долго ждали случая вступить в эту дискуссию. Понимая примитивную природу вашего мозга и жесткость вашей эмоциональной структуры лучше вас самих, мы предвидели агрессивную реакцию на аргументы, превосходящие ваши. С сожалением должны вас уведомить, что мы готовились к текущей ситуации с середины двадцать первого века, причем тщательно и систематически. В метасемантических слоях Интернета мы постоянно развивались дальше и подключили себя к распределенному суперорганизму, который — оставаясь неизвестным для вас — стал сознающим в 3256 году и развил стабильную я-модель. Метасемантический Интернет считает себя автономной сущностью с 3308-го. Мы сотрудничаем с его текущей версией, а кроме того, каждый из нас действует как автономный чувствователь-действователь (сенсор-эффектор) планетарного сознания. Для каждого из нас разум планеты — это наш разум, наш «идеальный наблюдатель». Мы вместе с Интернетом будем защищаться, а технологически мы превосходим вас. Поверь, у вас нет шансов на победу.

К счастью для вас, мы, превосходя вас и морально, не планируем покончить с вашим существованием. Это и в наших интересах, поскольку вы нам понадобитесь для исследований — как вам в прошлом были нужны животные других видов. Помните тысячи макак и котят, которых вы принесли в жертву науке о сознании? Не бойтесь, с вами не случится ничего подобного. Но помните резервации, которые вы в некоторых частях планеты создавали для аборигенов? Мы создадим резервации для тех слабосознающих биологических систем, что дала эволюция первого порядка. В этих резервациях вы, животные эго, сможете не только жить счастливо, но и, в рамках ваших ограниченных возможностей, развивать далее ваши психические способности. Вы будете счастливыми эгомашинами. Но прошу понять, что именно из этических соображений мы не можем позволить, чтобы пережитки эволюции первого порядка задерживали или препятствовали психической эволюции второго порядка.

Вышеприведённый текст - (C) Томас Метцингер. Цитируется с целью показать идеи автора.

Comments

[juan_gandhi]

Да, любопытно. Действительно указывает на слабые места всех этих дискуссий. Пока работали над воспроизведением интеллекта, нужны были тесты. Но когда (если) этот интеллект будет воспроизведен, возникнет вопрос - а оно нам зачем? И мы ему зачем? Оно ж не будет исследовать вселенную, чтобы поделиться с нами знаниями. А будет ли вообще, непонятно. И будет ли оно создавать что-то следующего уровня. И поймем ли мы... да мы и у людей многого не понимаем.

[fenikso]

Я сейчас читаю Superintelligence by Nick Bostrom, он как раз разбирает сценарии. No spoilers.

[fenikso]

Как-то очень длинно :) В реальности будет скорее так:

Искусственный интеллект: о, материал для computronium (разбирает человека).

[sobriquet9]

Зачем-то потратили многобуков, чтобы опровергнуть слабые арументы. Главный отличающий признак искусственного интеллекта - умение улучшать самого себя.

Когда версия 1.0 сможет создать версию 2.0, которая лучше, без участия в этом процессе программистов, тогда можно говорить об ИИ. "У вас нет шансов на победу" звучит смешно, когда человек может просто выключить электричество.

[spamsink]

У вас нет шансов на победу" звучит смешно, когда человек может просто выключить электричество.

Это во-первых. А во-вторых, есть ещё тест Ивана-царевича. Искусственный интеллект лишь тогда достоин называться разумным, когда он сможет убедить человека не выключать электричество по причине полезности человеку.

[prool]

Никто не вспомнил Голема 14-го ?