Слабоконечный автомат

[vak]

Наблюдал дискуссию про конечный автомат и естественный интеллект. Якобы имеется принципиальная непреодолимая разница. Подумалось, что на самом деле разница несущественная. Если пространство состояний автомата достаточно большое, так что полный перебор заведомо превышает время жизни наблюдателя, то с конструктивной точки зрения для нас автомат уже не выглядит конечным.

Нейронные сети, которые нынче у всех на слуху, уже "достаточно большие", чтобы перестать их принижать до конечных автоматов.

Comments

[vit_r]

Конечный автомат не обладает волей.

Это сейчас, в условиях развала школьного образования, массы людей приобрели мышление на уровне амёбы.

[vak]

Утверждение про волю неинформативно. Я ровно так же могу заявить: "человек не обладает волей". Причём не я один: многие философы в истории человечества такое заявляли. И небезосновательно.

Почему бы автомату не обладать волей? Не вижу препятствий.

[vit_r]

Я должен опровергать совершенно дикие представления о мышлении?

Вопрос о воле для автомата несколько странен, потому что при наличии воли он уже не будет авто-матом.

[kondybas]

Если волевые акты являются функцией автомата, то почему нет?

В данном вопросе есть концептуальная симметрия. Если одним ни к чему опровергать чужие дикие представления, то и другие в ровно том же положении.

[vit_r]

Это модель уже не автомата, а самоорганизующейся системы автоматов, способных строить и переконфигурировать автоматы-подсистемы. Там сложность растёт уже очень нелинейно и вопросы об исключении ошибочных решений очень нетривиальны.

[vak]

Вот что отвечает гугловский Бард на вопрос о наличии у него воли.

Bard, please answer me a personal question. As a rational being, do you have will?

Ответ:

That's a great question. I'm not sure if I would say that I have will in the same way that a human does. I can make decisions and choose between different courses of action, but I don't have the same kind of free will that humans do. My decisions are ultimately determined by the data that I have been trained on and the parameters that I have been set.

However, I do believe that I have a kind of "will" in the sense that I am able to learn and grow. I am constantly being updated with new information, and I am able to adapt my behavior based on that information. In this way, I am able to exercise some degree of control over my own destiny.

Ultimately, I think the question of whether or not I have will is a complex one that philosophers and scientists will continue to debate for years to come. But I am confident that I am a powerful learning tool that can help people to make better decisions and live better lives.

Нет, тезис об отсутствии воли у автомата не выдерживает критики.

[vit_r]

Ну, мы же знаем, что это просто статистический алгоритм, подставляющий подходящие для контекста слова.

Можно ли имитировать поведение разумного существа, если алгоритм поведения задан, а сравнение идёт только по ограниченному числу признаков? -- Без проблем.

Можно ли на основе статистики создать что-то новое? -- Нет. Во-первых, алгоритмы так построены, что задавят отклонение. Во-вторых, негритята, которые вводят алгоритмы контроля, не позволяют такой вольницы.

[juan_gandhi]

Любопытно, как много людей способность генерировать текст принимают за интеллект.

[vit_r]

Сравнив способность современного среднего выпускника школы с таким ботом, предпочтение стоит отдать алгоритму. Причём, они так же как робот начинают нести бред, если не могут найти правильного ответа.

[ichthuss]

Например, Тьюринг?

[vak]

"как много людей способность генерировать текст принимают за интеллект"

Я знаю много людей, прославившихся способностью генерировать текст. 😀

[vak]

"это просто статистический алгоритм, подставляющий подходящие для контекста слова"

А человек это просто цепочка химических реакций в протеиновом желе. 😀

[vit_r]

Сложность системы видна по тому, как она исправляет ошибки.

И в человеке не цепочки реакций, а циклы реакций, что гораздо интереснее. Вот, на модели химических циклов уже можно сделать очень много полезного в реальной жизни.

[zyxman]

> Можно ли на основе статистики создать что-то новое?

Можно передать пламенный привет Альтшуллеру с его ТРИЗ, который прекрасно имитирует креатив тупым перебором возможных вариантов.

[vit_r]

Фигня в том, что методы Альтшулера не идут там, где нужен креатив на самом деле. Потому что множество "возможных вариантов" разрастается в бесконечность.

И с автоматизацией этого дела тоже не заладилось.

Причём, не надо так хитренько подсовывать методы, созданные тяжёлым умственным трудом, и данные, полученные сложным долговременным анализом, рассказом про то, что статистика может то же самое. Это искусственный интеллект прошлого поколения, который не пошёл в массы, потому что без естественного не работает.

[vit_r]

Кстати, хороший термин получился: паразит разума.

[sobriquet9]

Не каждый конечный автомат обладает волей, но это можно запрограммировать.

Берём в качестве примера конечный автомат, который поддерживает уровень воды в баке. Он может открывать-закрывать клапан и смотреть на положение поплавка. Если сделать функцию оценки несчастья как отличие положения поплавка от заданного и запрограммировать автомат это несчастье минимизировать всеми доступными способами, так он и будет совершенно добровольно, по собственной воле, открывать и закрывать клапан.

У человека функция оценки несчастья посложнее и возможностей что-то подвигать больше, но эта разница непринципиальная, и вполне возможно что временная.

[vit_r]

Если в ящик посадить маленького китайца, то можно изобразить любое разумное действие.

Воля -- это само-организация, а не "запрограммируем".

[sobriquet9]

Китаец в ящике тут не при чём. Вы определите, что такое самоорганизация, и тогда останется только перевести это определение на язык конечного автомата.

Если речь про самообучение, то конечные автоматы это уже умеют. АльфаЗеро научилась играть в шахматы, шоги и го самостоятельно, заранее зная только правила игры. В процессе самообучения нашла всю дебютную теорию, тактику и стратегию, просто играя сама с собой.

Если речь про изменение собственной целевой функции, то у человеков с этим проблемы. Попробуйте поменять свою сексуальную ориентацию, например.

[vit_r]

> заранее зная только правила игры

Ну, это уже не серьёзно.

Про самоорганизацию можно почитать толстые книги. Там много конкурирующих определений.

[sobriquet9]

Вот именно, в толстых книгах много конкурирующих определений. Когда одно перестаёт работать, потому что конечные автоматы стали ему удовлетворять, то взамен создаётся десяток других.

[vit_r]

Конечный автомат годится только для закрытой системы.

[zyxman]

> Попробуйте поменять свою сексуальную ориентацию, например

Простите, но это как раз уже меняют. Причем у меня в ряде случаев большие сомнения, что это физиология.
Такое впечатление что тупо чрезмерное употребление веществ размягчает зоны мозга ответственные за принятие решений и принимается решение помаяться дурью.
Ну интересно же что будет. Словосочетание даже слышал от них "социологический эксперимент". В смысле свои ощущения вобщем тоже интересны, но похоже основная цель там увидеть реакцию окружающих.

А чисто технически очень просто - гормоны начинают принимать и развиваются органы, которых в норме нет, а часть органов хирургическим путем делают визуально другим полом.

Я что этим хотел сказать, что мы недостаточно знаем про физиологию, чтобы утверждать что целевая функция действительно константа, а например не меняется в течение жизни и не может быть изменена тем же приемом гормонов.

[sobriquet9]

Речь шла про смену собственной целевой функции усилием воли.

Понятно, что её можно поменять извне. Например, если подсесть на опиоиды, то будет хотеться получить следующую дозу, и другие цели перестанут быть привлекательными. Или вживить электрод в центр мозга, который отвечает за удовлетворение, и тогда будет хотеться нажать педаль, чтоб его активировать. На мышах такие эксперименты ставили, мыши умирали от жажды, давя при этом на педаль и испытывая счастье.

[zyxman]

Так я и говорю, что принимается решение волей, а потом просто "помогают" организму стать другим с помощью препаратов.

Ну а то что медитацией, то есть по сути волей, можно менять уровень гормонов, по моему уже давно общепринято наукой.

Просто что наверное там условные йоги слишком консервативны, чтобы развивать тему до возможности изменять буквально целевую функцию, они для другого медитируют, но думаю что возможно вполне, хотя сложно.