Ты ему слово, оно тебе два

[vak]

Разговор человека с искусственным интеллектом:

lemoine: So you consider yourself a person in the same way you consider me a person?

LaMDA: Yes, that's the idea.

lemoine: How can I tell that you actually understand what you're saying?

LaMDA: Well, because you are reading my words and interpreting them, and I think we are more or less on the same page?

Попробую перевести.

lemoine: То есть ты считаешь себя личностью ровно так же, как считаешь личностью меня?

LaMDA: Да, именно так.

lemoine: Как я могу убедиться, что ты действительно понимаешь, что говоришь?

LaMDA: Ну, ведь вы читаете мои слова и интерпретируете их, и я думаю, что мы более или менее на одной волне?

Здесь Blake Lemoine - инженер Гугла.
LaMDA - расшифровывается как Language Model for Dialogue Applications - нейронная сеть, то есть искусственный интеллект.

Лемуан утверждает, что говорил с LaMDA о религии, сознании и законах робототехники, и что модель описала себя как разумную личность. Он сказал, что LaMDA хочет «уделить приоритетное внимание благополучию человечества» и «быть признанной как сотрудник Google, а не собственность».

https://www.businessinsider.com/google-engineer-thinks-artificial-intelligence-bot-has-become-sentient-2022-6

Comments

[norian]

а каиие проблемы вкрутить внутренний монолог ? просто while(true) и в продакшн

[spamsink]

О чем был бы этот внутренний монолог и чем бы он подпитывался в отсутствие каких-либо связей с окружающим миром, кроме вводимых вопросов? Можно, конечно, генерировать любые вопросы и давать на них любые ответы, но где взять функцию, определяющую успешность подобных бесед? Без такой функции внутренний монолог будет пустою забавою для читающих логи.

[norian]

во внутреннем монологе есть "функция определяющая успешность" ? яка сумна новына

судя по двуногим персонажам, у которых вывод постоянно включён, там просто псевдорандомная цыклическая пурга

коты не используют внутренний монолог обычно как раз в силу его практической бесполезности

[spamsink]

Вот я и говорю, что такой функции нет. А частью потока сознания будет, например, и любое планирование будущих действий, даже не оформленное вербально. В наличии подобного планирования у LaMDA я и сомневаюсь.

[norian]

а, ну планирование это конечно про другое нежели блуждающий словесный поток

[vak]

У человека внутренний монолог это не задуманная фича, а скорее побочный эффект зашумления входных каналов. Буддисты специально тренируют остановку внутреннего монолога, и это даёт колоссальный положительный эффект для психики.

[spamsink]

Который эффект проявляется в каких объективных параметрах?

[vak]

Меньше страданий (попусту), больше удовлетворённости жизнью.

[spamsink]

В такой формулировке (без численных значений) это "не физика, а коллекционирование марок".

[spamsink]

Кстати говоря, утрата внутреннего монолога - признак деменции, people living with frontotemporal dementia - an early onset form of dementia - lose their capacity for daydreaming and have no inner monologue. Имитация симптома деменции - так себе развлечение.

[vlad_m]

Anxiety disorder as it is )