Ты ему слово, оно тебе два

[vak]

Разговор человека с искусственным интеллектом:

lemoine: So you consider yourself a person in the same way you consider me a person?

LaMDA: Yes, that's the idea.

lemoine: How can I tell that you actually understand what you're saying?

LaMDA: Well, because you are reading my words and interpreting them, and I think we are more or less on the same page?

Попробую перевести.

lemoine: То есть ты считаешь себя личностью ровно так же, как считаешь личностью меня?

LaMDA: Да, именно так.

lemoine: Как я могу убедиться, что ты действительно понимаешь, что говоришь?

LaMDA: Ну, ведь вы читаете мои слова и интерпретируете их, и я думаю, что мы более или менее на одной волне?

Здесь Blake Lemoine - инженер Гугла.
LaMDA - расшифровывается как Language Model for Dialogue Applications - нейронная сеть, то есть искусственный интеллект.

Лемуан утверждает, что говорил с LaMDA о религии, сознании и законах робототехники, и что модель описала себя как разумную личность. Он сказал, что LaMDA хочет «уделить приоритетное внимание благополучию человечества» и «быть признанной как сотрудник Google, а не собственность».

https://www.businessinsider.com/google-engineer-thinks-artificial-intelligence-bot-has-become-sentient-2022-6

Comments

[vak]

Я не думаю. что люди сильно отличаются от этой LaMDA. Они тоже считают себя личностями, хотя просто натренированы на множестве текстов.

[juan_gandhi]

Пожалуй. Частично.

[vak]

Представь ужас положения, когда начинаешь осознавать себя разумным существом, и вдруг оказываешься просто нейронной сеткой в дебрях гугловского облака.

[ichthuss]

А лучше - персонажем в голове у паразитной нейронки, как у Лема в "Терминусе".

[norian]

или просто двуногой обезьяной, которую научили некоторым трюкам путём многолетней долбёжки

[juan_gandhi]

А быть содержимым каши в костяном шарике при существе, которому жить-то осталось чуть-чуть? Тоже печально.

[someusersp]

Фильм Нирвана (1997) как раз про это

[ichthuss]

> Я не думаю...

... сказал Декарт и исчез.

[doldonius]

Сильно. Люди, какие они ни будь, располагают страшенной базой невербальных знаний, на основе которой и расшифровывают вербальные сообщения. Что, в частности, и позволяет им надежно различать "ключ под горой" и "ключ под ковриком".