vak: (Default)
[personal profile] vak
Разговор человека с искусственным интеллектом:
lemoine: So you consider yourself a person in the same way you consider me a person?

LaMDA: Yes, that's the idea.

lemoine: How can I tell that you actually understand what you're saying?

LaMDA: Well, because you are reading my words and interpreting them, and I think we are more or less on the same page?
Попробую перевести.
lemoine: То есть ты считаешь себя личностью ровно так же, как считаешь личностью меня?

LaMDA: Да, именно так.

lemoine: Как я могу убедиться, что ты действительно понимаешь, что говоришь?

LaMDA: Ну, ведь вы читаете мои слова и интерпретируете их, и я думаю, что мы более или менее на одной волне?
Здесь Blake Lemoine - инженер Гугла.
LaMDA - расшифровывается как Language Model for Dialogue Applications - нейронная сеть, то есть искусственный интеллект.

Лемуан утверждает, что говорил с LaMDA о религии, сознании и законах робототехники, и что модель описала себя как разумную личность. Он сказал, что LaMDA хочет «уделить приоритетное внимание благополучию человечества» и «быть признанной как сотрудник Google, а не собственность».

https://www.businessinsider.com/google-engineer-thinks-artificial-intelligence-bot-has-become-sentient-2022-6

Date: 2022-06-12 19:09 (UTC)
juan_gandhi: (Default)
From: [personal profile] juan_gandhi

По мне так все равно модель человека.

Date: 2022-06-12 20:17 (UTC)
juan_gandhi: (Default)
From: [personal profile] juan_gandhi

Пожалуй. Частично.

Date: 2022-06-12 21:11 (UTC)
From: [personal profile] ichthuss
А лучше - персонажем в голове у паразитной нейронки, как у Лема в "Терминусе".

Date: 2022-06-12 21:42 (UTC)
norian: (Default)
From: [personal profile] norian
или просто двуногой обезьяной, которую научили некоторым трюкам путём многолетней долбёжки

Date: 2022-06-12 23:44 (UTC)
juan_gandhi: (Default)
From: [personal profile] juan_gandhi

А быть содержимым каши в костяном шарике при существе, которому жить-то осталось чуть-чуть? Тоже печально.

Date: 2022-07-16 06:57 (UTC)
From: [personal profile] someusersp
Фильм Нирвана (1997) как раз про это

Date: 2022-06-13 11:45 (UTC)
From: [personal profile] ichthuss
> Я не думаю...

... сказал Декарт и исчез.

Date: 2022-06-13 11:55 (UTC)
doldonius: (Default)
From: [personal profile] doldonius
Сильно. Люди, какие они ни будь, располагают страшенной базой невербальных знаний, на основе которой и расшифровывают вербальные сообщения. Что, в частности, и позволяет им надежно различать "ключ под горой" и "ключ под ковриком".

Date: 2022-06-12 20:27 (UTC)
vit_r: default (Default)
From: [personal profile] vit_r
Это современная снежиночная молодёжь в сети -- модель конечного автомата. Гораздо интереснее была бы программа, которая подводит любого пользователя чата к заранее заданным ответам.

Date: 2022-06-12 21:16 (UTC)
vit_r: default (Default)
From: [personal profile] vit_r
Фиг. Нихрена не знают.

- Мячик и ракетка стоят 1.10 евро. Мячик на 1 евро дешевле ракетки. Сколько стоит мячик?

Это теперь вопрос не для детского сада, а на интервью для разработчика софта.

Date: 2022-06-13 11:47 (UTC)
From: [personal profile] ichthuss
Ну, для детского сада это, положим, сложновато. Вот для младших классов - самое то.

Date: 2022-06-12 21:26 (UTC)
spamsink: (Default)
From: [personal profile] spamsink
Да и то сомнительной адекватности модель. Ведь у неё нет ни органов чувств, ни самостоятельного потока сознания в отсутствие вопросов.

Date: 2022-06-12 21:40 (UTC)
norian: (Default)
From: [personal profile] norian
а каиие проблемы вкрутить внутренний монолог ? просто while(true) и в продакшн

Date: 2022-06-12 21:56 (UTC)
spamsink: (Default)
From: [personal profile] spamsink
О чем был бы этот внутренний монолог и чем бы он подпитывался в отсутствие каких-либо связей с окружающим миром, кроме вводимых вопросов? Можно, конечно, генерировать любые вопросы и давать на них любые ответы, но где взять функцию, определяющую успешность подобных бесед? Без такой функции внутренний монолог будет пустою забавою для читающих логи.

Date: 2022-06-12 22:29 (UTC)
norian: (Default)
From: [personal profile] norian
во внутреннем монологе есть "функция определяющая успешность" ? яка сумна новына

судя по двуногим персонажам, у которых вывод постоянно включён, там просто псевдорандомная цыклическая пурга

коты не используют внутренний монолог обычно как раз в силу его практической бесполезности

Date: 2022-06-12 22:46 (UTC)
spamsink: (Default)
From: [personal profile] spamsink
Вот я и говорю, что такой функции нет. А частью потока сознания будет, например, и любое планирование будущих действий, даже не оформленное вербально. В наличии подобного планирования у LaMDA я и сомневаюсь.


Date: 2022-06-12 22:52 (UTC)
norian: (Default)
From: [personal profile] norian
а, ну планирование это конечно про другое нежели блуждающий словесный поток

Date: 2022-06-12 22:47 (UTC)
spamsink: (Default)
From: [personal profile] spamsink
Который эффект проявляется в каких объективных параметрах?

Date: 2022-06-13 00:10 (UTC)
spamsink: (Default)
From: [personal profile] spamsink
В такой формулировке (без численных значений) это "не физика, а коллекционирование марок".

Date: 2022-06-13 00:35 (UTC)
spamsink: (Default)
From: [personal profile] spamsink
Кстати говоря, утрата внутреннего монолога - признак деменции, people living with frontotemporal dementia - an early onset form of dementia - lose their capacity for daydreaming and have no inner monologue. Имитация симптома деменции - так себе развлечение.

Date: 2022-06-12 23:08 (UTC)
vlad_m: (Default)
From: [personal profile] vlad_m
Anxiety disorder as it is )

Date: 2022-06-12 23:42 (UTC)
juan_gandhi: (Default)
From: [personal profile] juan_gandhi

Конечно. И контекста нету. Несколько лет назад запустили на интернете такого "мальчика из Одессы", ну и типа заходите проверяйте на тест Тьюринга. На мой вопрос "как там нынче на Привозе" этот бот понятия не имел, что ответить.

Пока что все они такие. Что у них можно узнать? Могут что-то вычислить, вот и все.

Date: 2022-06-13 00:30 (UTC)
spamsink: (Default)
From: [personal profile] spamsink
Во-во.

LaMDA are transformer-based neural language models trained on both a text corpus and on conversations that have been manually annotated for sensibility, appeal, and safety.

Последнее особенно существенно, т. к. без ручного управления будет GIGO.

Date: 2022-06-12 19:09 (UTC)
hozar: (funny)
From: [personal profile] hozar
вау! оно даже научилось отвечать вопросом на вопрос!
Edited Date: 2022-06-12 19:10 (UTC)

Date: 2022-06-12 19:54 (UTC)
suhajh: (Default)
From: [personal profile] suhajh
если сравнивать с населением pф, то точно разумнее их 99.9%

Date: 2022-06-12 21:38 (UTC)
norian: (Default)
From: [personal profile] norian
чувака походу в дурку закатают

и правильно сделают, нечего орать и руками размахивать почём зря

Date: 2022-06-12 22:33 (UTC)
norian: (Default)
From: [personal profile] norian
не совсем просто

давеча у аввы был пост про чувака, пугающего скорбных разумом ужосами искусственного интеллекта

как показали события двух свежепрошедших лет, если стаду дать повод для паники, то вообще все исследования в этой области могут зобанить нах

Date: 2022-06-12 23:10 (UTC)
vlad_m: (Default)
From: [personal profile] vlad_m
А банщиков казнить для устрашения ©
Такое уже было™. в совке