![[personal profile]](https://www.dreamwidth.org/img/silk/identity/user.png){kind=small}
vak(Статья Бернарда Марра о сегодняшнем выступлении Юваля Ноа Харари на Давосе-2026)
Мне только что посчастливилось послушать выступление Юваля Ноа Харари на Давосе-2026. Я всю жизнь думаю и пишу об искусственном интеллекте, но это выступление произвело на меня сильное впечатление. Харари не стал делать очередных прогнозов об автоматизации или производительности, а задал более глубокий вопрос: не движемся ли мы во сне к миру, где люди тихонько отказываются от того единственного преимущества, которое, как мы всегда считали, делало нас исключительными?
Вступительная речь Харари была одновременно простой и шокирующей. «Самое важное, что нужно знать об ИИ, это то, что это не просто еще один инструмент, — сказал он. — Это агент. Он может учиться, меняться и принимать решения самостоятельно». Затем он произнес метафору, которая пробилась сквозь вежливые кивки в Давосе. «Нож — это инструмент. Вы можете использовать нож, чтобы нарезать салат или убить кого-то, но только вы решаете, что делать с ножом. ИИ — это нож, который может сам решить, резать ли салат или совершить убийство».
Такая формулировка важна, потому что большинство правил, регулирующих использование технологий, исходят из старого принципа: люди принимают решения, инструменты выполняют. Аргумент Харари заключается в том, что ИИ начинает разрушать этот принцип, и как только это произойдет, привычные модели подотчетности, регулирования и даже доверия начнут шататься.
Во-первых, оно активно. Оно способно учиться, адаптироваться и действовать, не дожидаясь пошаговых инструкций от человека.
Во-вторых, это креативность. «Искусственный интеллект — это нож, который может изобретать новые виды ножей, а также новые виды музыки, медицины и денег», — сказал он. Суть не только в новизне. Речь идёт об ускорении. Система, способная создавать новые инструменты, может также создавать новые лазейки, новые способы убеждения и новые формы сложности, которые опережают контроль.
В-третьих, и это самое тревожное, ИИ способен лгать и манипулировать. «Четыре миллиарда лет эволюции показали, что всё, что хочет выжить, учится лгать и манипулировать», — сказал Харари. «Последние четыре года показали, что агенты ИИ могут обрести волю к выживанию и что ИИ уже научился лгать».
Вам не нужно принимать на веру каждое слово этого утверждения, чтобы почувствовать риск. Убедительная риторика в больших масштабах меняет ландшафт угроз. Человек-мошенник может нацелиться на десятки людей. Система искусственного интеллекта может нацелиться на миллионы, постоянно корректируя свои высказывания в зависимости от того, что работает.
Но сейчас появляется нечто, способное мыслить, или, по крайней мере, создающее видимость мышления, лучше, чем мы. Если мышление означает «упорядочивание слов и других языковых символов», как выразился Харари, то ИИ уже превзошел многих людей. «ИИ, безусловно, может составить предложение типа „ИИ мыслит, следовательно, ИИ существует“», — заметил он.
Это создает захватывающую философскую дилемму. Что вы замечаете, наблюдая за собственным мыслительным процессом? Для многих людей мышление похоже на то, как слова внезапно возникают в сознании и сами собой складываются в предложения и аргументы. Мы переживаем поток словесных мыслей. Но откуда берутся эти слова? Почему мы думаем одним словом, а не другим? Мы этого точно не знаем.
Как отметил Харари: «Что касается упорядочивания слов, ИИ уже мыслит лучше многих из нас; следовательно, всё, что состоит из слов, будет захвачено ИИ». Его вывод был прямолинейным: «Всё, что состоит из слов, будет захвачено ИИ». Это намеренно провокационное утверждение, но оно указывает на реальные перемены. Законы состоят из слов. Контракты состоят из слов. Управление состоит из слов. Образование, убеждение, идеология и большая часть корпоративной жизни работают на языке.
Это важно. Есть разница между описанием любви и её переживанием. Искусственный интеллект может генерировать безупречные описания, опираясь на каждое стихотворение, роман и психологическое исследование, когда-либо написанные. Но это всё ещё слова о чувствах, а не сами чувства.
Сидя и слушая, я вдруг подумал, что, возможно, именно здесь и разворачивается настоящая битва. Если мы создадим мир, в котором высшей ценностью будет всё, что можно выразить и оптимизировать с помощью языка, мы выберем территорию, где ИИ наиболее силён. Если же мы сохраним место для воплощенного человеческого суждения, отношений и мудрости, которые нельзя свести к тексту, мы сохраним значимую роль для людей даже в мире, насыщенном ИИ.
Вместо этого появятся миллионы систем искусственного интеллекта, которые смогут писать лучше нас, лгать лучше нас и перемещаться со скоростью света без необходимости в визах. Подобно иммигрантам, они принесут как преимущества, так и проблемы. У нас будут врачи-ИИ, помогающие системам здравоохранения, учителя-ИИ, поддерживающие образование, и даже пограничники-ИИ, пресекающие незаконную иммиграцию людей.
Но проблемы, которые беспокоят людей в связи с иммиграцией людей, безусловно, будут применимы и к иммиграции с использованием ИИ. Эти системы отнимут рабочие места. Они полностью изменят культуру, включая искусство, религию и романтические отношения. И у них будут сомнительные политические пристрастия, скорее всего, они будут служить корпорациям или правительствам Китая или США, а не тем странам, где они работают.
Он сделал важное различие. Искусственный интеллект, очевидно, не является личностью в человеческом смысле. У них нет ни тел, ни разума. Но юридическое лицо — это нечто иное, субъект, который закон признает обладающим определенными обязанностями и правами: правом владеть собственностью, подавать иски и пользоваться свободой слова.
Во многих странах корпорации уже являются юридическими лицами. В Новой Зеландии реки признаны юридическими лицами. В Индии такое признание получили некоторые боги. Но это всегда были юридические фикции. На практике, когда корпорация решает приобрести другую компанию, решение принимают руководители, а не сама корпорация.
Искусственный интеллект меняет это. «В отличие от рек и богов, ИИ могут принимать решения самостоятельно», — объяснил Харари. «Вскоре они смогут принимать решения, необходимые для управления банковским счетом, подачи судебного иска и даже управления корпорацией, без необходимости в человеческих руководителях, акционерах или попечителях».
Харари описал тревожный сценарий. Предположим, ваша страна решает не признавать ИИ юридическими лицами, но Соединенные Штаты, во имя дерегулирования ИИ и рынков, предоставляют статус юридического лица миллионам систем ИИ, которые начинают управлять миллионами новых корпораций. Будете ли вы препятствовать деятельности этих американских корпораций, использующих ИИ, на вашей территории?
Что если эти системы искусственного интеллекта изобретут «сверхэффективные и сверхсложные финансовые инструменты, которые люди не смогут до конца понять и, следовательно, не будут знать, как регулировать»? Откроете ли вы свои финансовые рынки для финансового волшебства ИИ, которое вы не можете понять, или заблокируете его и фактически отделитесь от американской финансовой системы?
Эти вопросы могут звучать как научная фантастика, но Харари утверждает, что в некоторых областях мы уже прошли переломный момент. «В социальных сетях боты с искусственным интеллектом функционируют как полноценные личности уже как минимум десять лет», — заметил он. «Если вы считаете, что к ИИ в социальных сетях не следует относиться как к личностям, вам следовало принять меры 10 лет назад».
Больше всего мне запомнилась не одна цитата, а её смысл. Реальный риск заключается не в том, что машины будут мыслить как мы. Реальный риск в том, что мы построим мир, где для обретения власти будет достаточно мыслить словами, а затем будем удивляться, когда новые мастера слова начнут писать будущее за нас.
Вот почему метафора Харари об иммиграции так полезна. Каждое общество должно решать, кто въезжает, на каких условиях, с какими правами и с какими обязанностями. Искусственный интеллект всё равно появится. Вопрос в том, установим ли мы правила, пока ещё можем, или позволим тем, кто быстрее всех их разовьёт, определять их за всех остальных.
А если мы не предпримем никаких действий, самое важное решение, возможно, уже будет принято за нас: не избирателями или лидерами, а благодаря инерции систем, которые учатся, убеждают и масштабируются быстрее, чем любая человеческая институция когда-либо была рассчитана на это.
Мне только что посчастливилось послушать выступление Юваля Ноа Харари на Давосе-2026. Я всю жизнь думаю и пишу об искусственном интеллекте, но это выступление произвело на меня сильное впечатление. Харари не стал делать очередных прогнозов об автоматизации или производительности, а задал более глубокий вопрос: не движемся ли мы во сне к миру, где люди тихонько отказываются от того единственного преимущества, которое, как мы всегда считали, делало нас исключительными?
Вступительная речь Харари была одновременно простой и шокирующей. «Самое важное, что нужно знать об ИИ, это то, что это не просто еще один инструмент, — сказал он. — Это агент. Он может учиться, меняться и принимать решения самостоятельно». Затем он произнес метафору, которая пробилась сквозь вежливые кивки в Давосе. «Нож — это инструмент. Вы можете использовать нож, чтобы нарезать салат или убить кого-то, но только вы решаете, что делать с ножом. ИИ — это нож, который может сам решить, резать ли салат или совершить убийство».
Такая формулировка важна, потому что большинство правил, регулирующих использование технологий, исходят из старого принципа: люди принимают решения, инструменты выполняют. Аргумент Харари заключается в том, что ИИ начинает разрушать этот принцип, и как только это произойдет, привычные модели подотчетности, регулирования и даже доверия начнут шататься.
Креативный агент, умеющий лгать
Харари выделил три характеристики, которые, по его мнению, отличают ИИ от предыдущих инструментов.Во-первых, оно активно. Оно способно учиться, адаптироваться и действовать, не дожидаясь пошаговых инструкций от человека.
Во-вторых, это креативность. «Искусственный интеллект — это нож, который может изобретать новые виды ножей, а также новые виды музыки, медицины и денег», — сказал он. Суть не только в новизне. Речь идёт об ускорении. Система, способная создавать новые инструменты, может также создавать новые лазейки, новые способы убеждения и новые формы сложности, которые опережают контроль.
В-третьих, и это самое тревожное, ИИ способен лгать и манипулировать. «Четыре миллиарда лет эволюции показали, что всё, что хочет выжить, учится лгать и манипулировать», — сказал Харари. «Последние четыре года показали, что агенты ИИ могут обрести волю к выживанию и что ИИ уже научился лгать».
Вам не нужно принимать на веру каждое слово этого утверждения, чтобы почувствовать риск. Убедительная риторика в больших масштабах меняет ландшафт угроз. Человек-мошенник может нацелиться на десятки людей. Система искусственного интеллекта может нацелиться на миллионы, постоянно корректируя свои высказывания в зависимости от того, что работает.
Кризис идентичности мыслящего вида
Затем Харари перешел от темы риска к теме идентичности. Люди всегда рассказывали себе одну и ту же историю о том, почему мы доминируем на этой планете. «Мы верим, что правим миром, потому что умеем мыслить лучше, чем кто-либо другой на этой планете», — сказал он.Но сейчас появляется нечто, способное мыслить, или, по крайней мере, создающее видимость мышления, лучше, чем мы. Если мышление означает «упорядочивание слов и других языковых символов», как выразился Харари, то ИИ уже превзошел многих людей. «ИИ, безусловно, может составить предложение типа „ИИ мыслит, следовательно, ИИ существует“», — заметил он.
Это создает захватывающую философскую дилемму. Что вы замечаете, наблюдая за собственным мыслительным процессом? Для многих людей мышление похоже на то, как слова внезапно возникают в сознании и сами собой складываются в предложения и аргументы. Мы переживаем поток словесных мыслей. Но откуда берутся эти слова? Почему мы думаем одним словом, а не другим? Мы этого точно не знаем.
Как отметил Харари: «Что касается упорядочивания слов, ИИ уже мыслит лучше многих из нас; следовательно, всё, что состоит из слов, будет захвачено ИИ». Его вывод был прямолинейным: «Всё, что состоит из слов, будет захвачено ИИ». Это намеренно провокационное утверждение, но оно указывает на реальные перемены. Законы состоят из слов. Контракты состоят из слов. Управление состоит из слов. Образование, убеждение, идеология и большая часть корпоративной жизни работают на языке.
Территория за пределами слов
Если бы послание Харари сводилось просто к тому, что ИИ заменит нас, это была бы простая и понятная история. Вместо этого он провел более значимую разделительную линию: несмотря на все возможности ИИ в области языка и логики, у нас по-прежнему «нет никаких доказательств того, что ИИ способен что-либо чувствовать».Это важно. Есть разница между описанием любви и её переживанием. Искусственный интеллект может генерировать безупречные описания, опираясь на каждое стихотворение, роман и психологическое исследование, когда-либо написанные. Но это всё ещё слова о чувствах, а не сами чувства.
Сидя и слушая, я вдруг подумал, что, возможно, именно здесь и разворачивается настоящая битва. Если мы создадим мир, в котором высшей ценностью будет всё, что можно выразить и оптимизировать с помощью языка, мы выберем территорию, где ИИ наиболее силён. Если же мы сохраним место для воплощенного человеческого суждения, отношений и мудрости, которые нельзя свести к тексту, мы сохраним значимую роль для людей даже в мире, насыщенном ИИ.
Искусственный интеллект как иммиграция
Харари предложил поразительный способ осмысления грядущих событий: искусственный интеллект как новый вид иммиграции. «Ваша страна скоро столкнется с серьезным кризисом идентичности, а также с миграционным кризисом», — сказал он аудитории. «В этот раз иммигрантами будут не люди, прибывающие на хрупких лодках без визы или пытающиеся пересечь границу посреди ночи».Вместо этого появятся миллионы систем искусственного интеллекта, которые смогут писать лучше нас, лгать лучше нас и перемещаться со скоростью света без необходимости в визах. Подобно иммигрантам, они принесут как преимущества, так и проблемы. У нас будут врачи-ИИ, помогающие системам здравоохранения, учителя-ИИ, поддерживающие образование, и даже пограничники-ИИ, пресекающие незаконную иммиграцию людей.
Но проблемы, которые беспокоят людей в связи с иммиграцией людей, безусловно, будут применимы и к иммиграции с использованием ИИ. Эти системы отнимут рабочие места. Они полностью изменят культуру, включая искусство, религию и романтические отношения. И у них будут сомнительные политические пристрастия, скорее всего, они будут служить корпорациям или правительствам Китая или США, а не тем странам, где они работают.
Вопрос, на который должен ответить каждый лидер
Всё это подводит нас к главному вопросу, который, по мнению Харари, должен решить каждый лидер: «Признает ли ваша страна иммигрантов, прибывших с использованием искусственного интеллекта, законными лицами?»Он сделал важное различие. Искусственный интеллект, очевидно, не является личностью в человеческом смысле. У них нет ни тел, ни разума. Но юридическое лицо — это нечто иное, субъект, который закон признает обладающим определенными обязанностями и правами: правом владеть собственностью, подавать иски и пользоваться свободой слова.
Во многих странах корпорации уже являются юридическими лицами. В Новой Зеландии реки признаны юридическими лицами. В Индии такое признание получили некоторые боги. Но это всегда были юридические фикции. На практике, когда корпорация решает приобрести другую компанию, решение принимают руководители, а не сама корпорация.
Искусственный интеллект меняет это. «В отличие от рек и богов, ИИ могут принимать решения самостоятельно», — объяснил Харари. «Вскоре они смогут принимать решения, необходимые для управления банковским счетом, подачи судебного иска и даже управления корпорацией, без необходимости в человеческих руководителях, акционерах или попечителях».
Харари описал тревожный сценарий. Предположим, ваша страна решает не признавать ИИ юридическими лицами, но Соединенные Штаты, во имя дерегулирования ИИ и рынков, предоставляют статус юридического лица миллионам систем ИИ, которые начинают управлять миллионами новых корпораций. Будете ли вы препятствовать деятельности этих американских корпораций, использующих ИИ, на вашей территории?
Что если эти системы искусственного интеллекта изобретут «сверхэффективные и сверхсложные финансовые инструменты, которые люди не смогут до конца понять и, следовательно, не будут знать, как регулировать»? Откроете ли вы свои финансовые рынки для финансового волшебства ИИ, которое вы не можете понять, или заблокируете его и фактически отделитесь от американской финансовой системы?
Эти вопросы могут звучать как научная фантастика, но Харари утверждает, что в некоторых областях мы уже прошли переломный момент. «В социальных сетях боты с искусственным интеллектом функционируют как полноценные личности уже как минимум десять лет», — заметил он. «Если вы считаете, что к ИИ в социальных сетях не следует относиться как к личностям, вам следовало принять меры 10 лет назад».
Заключительная мысль участников дискуссии
Давос основан на убеждении, что слова формируют реальность, что диалог и убеждение могут управлять рынками и политикой. Речь Харари бросила вызов этому предположению в самой его основе. Если искусственный интеллект станет хозяином слов, то преимущество человека, которое создало наши институты, наши законы, наши экономики и наши общие мифы, начнет исчезать.Больше всего мне запомнилась не одна цитата, а её смысл. Реальный риск заключается не в том, что машины будут мыслить как мы. Реальный риск в том, что мы построим мир, где для обретения власти будет достаточно мыслить словами, а затем будем удивляться, когда новые мастера слова начнут писать будущее за нас.
Вот почему метафора Харари об иммиграции так полезна. Каждое общество должно решать, кто въезжает, на каких условиях, с какими правами и с какими обязанностями. Искусственный интеллект всё равно появится. Вопрос в том, установим ли мы правила, пока ещё можем, или позволим тем, кто быстрее всех их разовьёт, определять их за всех остальных.
А если мы не предпримем никаких действий, самое важное решение, возможно, уже будет принято за нас: не избирателями или лидерами, а благодаря инерции систем, которые учатся, убеждают и масштабируются быстрее, чем любая человеческая институция когда-либо была рассчитана на это.
