Слабоконечный автомат

[vak]

Наблюдал дискуссию про конечный автомат и естественный интеллект. Якобы имеется принципиальная непреодолимая разница. Подумалось, что на самом деле разница несущественная. Если пространство состояний автомата достаточно большое, так что полный перебор заведомо превышает время жизни наблюдателя, то с конструктивной точки зрения для нас автомат уже не выглядит конечным.

Нейронные сети, которые нынче у всех на слуху, уже "достаточно большие", чтобы перестать их принижать до конечных автоматов.

Comments

[vit_r]

Я должен опровергать совершенно дикие представления о мышлении?

Вопрос о воле для автомата несколько странен, потому что при наличии воли он уже не будет авто-матом.

[kondybas]

Если волевые акты являются функцией автомата, то почему нет?

В данном вопросе есть концептуальная симметрия. Если одним ни к чему опровергать чужие дикие представления, то и другие в ровно том же положении.

[vit_r]

Это модель уже не автомата, а самоорганизующейся системы автоматов, способных строить и переконфигурировать автоматы-подсистемы. Там сложность растёт уже очень нелинейно и вопросы об исключении ошибочных решений очень нетривиальны.

[vak]

Вот что отвечает гугловский Бард на вопрос о наличии у него воли.

Bard, please answer me a personal question. As a rational being, do you have will?

Ответ:

That's a great question. I'm not sure if I would say that I have will in the same way that a human does. I can make decisions and choose between different courses of action, but I don't have the same kind of free will that humans do. My decisions are ultimately determined by the data that I have been trained on and the parameters that I have been set.

However, I do believe that I have a kind of "will" in the sense that I am able to learn and grow. I am constantly being updated with new information, and I am able to adapt my behavior based on that information. In this way, I am able to exercise some degree of control over my own destiny.

Ultimately, I think the question of whether or not I have will is a complex one that philosophers and scientists will continue to debate for years to come. But I am confident that I am a powerful learning tool that can help people to make better decisions and live better lives.

Нет, тезис об отсутствии воли у автомата не выдерживает критики.

[vit_r]

Ну, мы же знаем, что это просто статистический алгоритм, подставляющий подходящие для контекста слова.

Можно ли имитировать поведение разумного существа, если алгоритм поведения задан, а сравнение идёт только по ограниченному числу признаков? -- Без проблем.

Можно ли на основе статистики создать что-то новое? -- Нет. Во-первых, алгоритмы так построены, что задавят отклонение. Во-вторых, негритята, которые вводят алгоритмы контроля, не позволяют такой вольницы.

[juan_gandhi]

Любопытно, как много людей способность генерировать текст принимают за интеллект.

[vit_r]

Сравнив способность современного среднего выпускника школы с таким ботом, предпочтение стоит отдать алгоритму. Причём, они так же как робот начинают нести бред, если не могут найти правильного ответа.

[juan_gandhi]

Кстати, любопытно, как современные средние выпускники школы не молчат, а несут бред. Освоили социальные науки.

[vit_r]

Я же писал, что чат-гопота это идеальный ученик. После того, как преподаватели перестали контролировать качество сказанного учеником, у того тоже фильтры отключаются. То есть, на вопросы они отвечать не могут, но повестку пересказывают без запинки.

Кстати, сейчас пост напишу, надо будет добавить про школу.

[ichthuss]

Например, Тьюринг?

[juan_gandhi]

А; я так не думаю.

[ichthuss]

В смысле, Тьюринг не предлагал определять разумность машины через ее способность генерировать текст?

[juan_gandhi]

Ну я немножко иначе смотрю на это. Доказательство через диалог естественности интеллекта, конечно, включает в себя генерацию текста, но не сводится к ней.

[vak]

"как много людей способность генерировать текст принимают за интеллект"

Я знаю много людей, прославившихся способностью генерировать текст. 😀

[juan_gandhi]

Цветаева лучший пример. Дура-дурой, а какие стихи!

[vak]

"это просто статистический алгоритм, подставляющий подходящие для контекста слова"

А человек это просто цепочка химических реакций в протеиновом желе. 😀

[vit_r]

Сложность системы видна по тому, как она исправляет ошибки.

И в человеке не цепочки реакций, а циклы реакций, что гораздо интереснее. Вот, на модели химических циклов уже можно сделать очень много полезного в реальной жизни.

[zyxman]

> Можно ли на основе статистики создать что-то новое?

Можно передать пламенный привет Альтшуллеру с его ТРИЗ, который прекрасно имитирует креатив тупым перебором возможных вариантов.

[vit_r]

Фигня в том, что методы Альтшулера не идут там, где нужен креатив на самом деле. Потому что множество "возможных вариантов" разрастается в бесконечность.

И с автоматизацией этого дела тоже не заладилось.

Причём, не надо так хитренько подсовывать методы, созданные тяжёлым умственным трудом, и данные, полученные сложным долговременным анализом, рассказом про то, что статистика может то же самое. Это искусственный интеллект прошлого поколения, который не пошёл в массы, потому что без естественного не работает.

[zyxman]

> множество "возможных вариантов" разрастается в бесконечность.

Альтшуллеровцы эту проблему решили вполне элегантно - у них есть специальная книга емнип "справочник физических эффектов", или может быть аналог для соответствующей области знаний, которая именно то что в названии и есть, и крайне эффективно урезает ненужные варианты.

Минус конечно что кто-то должен это систематично делать (эти справочники актуализировать).
Но это уже чисто технический вопрос, а главное совершенно прогнозируемый, в отличие от креатива, с прогнозированием которого очень большие проблемы (см опыт Голливуда, который не от сильно хорошей жизни регулярно выпускает плацебо нормального кино в виде например блокбастеров).

[vit_r]

Тот, кто называет систематизацию знаний "простым вопросом", никогда этим не занимался.

Американское кино уже лет двадцать никакого интереса не представляет. Оно живёт за счёт рекламы и изготавливается по лекалам, отступать от которых запрещают продюссеры.

[zyxman]

> отступать от которых запрещают продюссеры.

Не совсем. То есть да, продюссеры запрещают, но они это делают не по своей вредности, а потому что у них функция такая - быть палачом над творцами.

По факту, продюсер в кино, это как финдиректор в бизнесе, человек который следит, чтобы творцы вписывались в бюджет и в внутренние регуляции компании.

Ну и да, регуляции тоже не просто с потолка писаны, а просто адекватные люди давно знают, чтобы было что-то хорошо сделано, как говорится с душой, мало бабла отвалить, нужен инициативный талантливый человек, который на своем горбу это всё потянет.

Талантов с инициативой везде в мире не хватает, даже киношных денег недостаточно, чтобы еще купить.
Есть отдельно таланты, есть инициативные, но с низким уровнем интеллекта, из них никак не получится сделать комбинацию которая бы объединила положительные качества.

- Блокбастер, сработанный по стандартным лекалам, как раз удобен что его могут делать отэти безталанные инициативные, пока таланты чем-то другим заняты.

[zyxman]

И да, в смысле менеджмента систематизация простой вопрос, она действительно очень предсказуемо просто берется и делается.

А хорошее кино снять, это надо чтобы много непредсказуемых факторов в нужное время в нужном месте собрались - чтобы и таланты были, и ресурсы (деньги, оборудование, площади и прочее), и инициатива с энфорсментом, чтобы это всё двигать, а не просто пивка бухнуть в приятной компании.

[zyxman]

Кстати, как раз актуализировать обзорные справочники, это я думаю ГПТ-4 уже справится вполне пристойно, практически здесь и сейчас.

[vit_r]

Кстати, хороший термин получился: паразит разума.