vak: (Default)
[personal profile] vak
Народ умудрился запихнуть алгоритмы искусственного интеллекта в 2 килобайта памяти.

"We have deployed Bonsai and ProtoNN on the Arduino Uno (8 bit ATmega328P microcontroller operating at 16 MHz without floating point support, 2 KB RAM and 32 KB read-only flash memory) and found that they can accurately make predictions within a few milliseconds."

Статья: "Resource-efficient Machine Learning in 2 KB RAM for the Internet of Things" (PDF)

Исходники лежат на Гитхабе: https://github.com/Microsoft/EdgeML

Date: 2018-10-31 19:49 (UTC)
juan_gandhi: (Default)
From: [personal profile] juan_gandhi
Монетка тоже неплохо работает. В половине случаев правильно предсказывает.

Date: 2018-10-31 20:26 (UTC)
sab123: (Default)
From: [personal profile] sab123
Ну, 8-битная арифметика достаточна для многих искуственных интеллектов. Так что это можно упихать довольно заметную нейросеть.

Ничто не ново

Date: 2018-10-31 20:52 (UTC)
From: [personal profile] malobukov
Ещё в восьмидесятых годах прошлого века меня обыгрывала в шахматы компьютерная программа, бегущая на мной же собранном Sinclair ZX Spectrum с тоже восьмибитным процессором Z80 и 48 килобайтами памяти (которая использовалась не вся).

Date: 2018-10-31 22:04 (UTC)
juan_gandhi: (Default)
From: [personal profile] juan_gandhi
Хм, ну ладно. Конечно.

Не совсем

Date: 2018-11-01 01:34 (UTC)
From: [personal profile] malobukov
Нейронные сети того вида, который тогда существовал, считались тупиковым и бесперспективным направлением. Они и сейчас преимущественно тупиковые и бесперспективные. Точнее не так, они используются часто, просто от них не ожидают какого-то искусственного интеллекта. Например, сегментированная логистическая регрессия в моделях кредитного скоринга это десяток нейронных сетей, только очень простых, с одним нейроном каждая.

Когда сейчас говорят про искусственный интеллект, обычно имеют в виду рекуррентные сети с памятью, их в прошлом веке обучать не умели. Да и сейчас с этим не очень, готов поспорить что описываемое в статье устройство невозможно обучить играть в шахматы сильнее пресловутого компьютера ZX Spectrum из прошлого века. А дюжину современных компьютеров с GPU — можно.

Ну и что

Date: 2018-11-01 01:43 (UTC)
From: [personal profile] malobukov
Два килобайта это только оперативная память. Которая нейронной сети не очень то и нужна, там нужно хранить совсем немного данных.

32 килобайта исполняемого кода — это вообще-то прилично, особенно для восьмибитного процессора где все команды короткие и адреса тоже два байта максимум.

Один из первых приборов, для которого я писал код, как раз имел те самые 32 килобайта ROM, и этого хватило для вполне приличной функциональности, включая пользовательский интерфейс и всякие вычисления.

Date: 2018-11-02 17:35 (UTC)
dmytrish: (qnxroot)
From: [personal profile] dmytrish
Это, конечно, весьма похвально, но я со времен детства до сих пор не могу отойти от впечатления от программы для МК-52 (105 байт программной памяти, 15 регистров данных!), которая «умела» учиться играть в игру Баше.

Re: Не совсем

Date: 2018-11-23 14:02 (UTC)
From: [identity profile] gineer.livejournal.com
\\готов поспорить что описываемое в статье устройство невозможно обучить играть в шахматы сильнее пресловутого компьютера ZX Spectrum из прошлого века.

на сколько я понимаю... их тогда не "обучали", а тупо запихивали БД ходов.

Re: Не совсем

Date: 2018-11-23 16:19 (UTC)
From: [personal profile] malobukov
Не было там базы ходов, некуда её пихать, диска нет, памяти мало.

Была функция оценки позиции (мат или не мат, если не мат, сколько на доске материала, у кого больше фигур в центре и так далее), перебор вариантов с альфа-бета отсечкой, и некоторые эвристики (проверяем взятия и шахи первыми).

Re: Не совсем

Date: 2018-11-23 16:23 (UTC)
From: [identity profile] gineer.livejournal.com
думаю что дебютная база все же в каком-то виде присутствовала...

хотя, при желании её можно обозвать и эвристикой

а еще эндшпильная. ;)

Re: Не совсем

Date: 2018-11-23 16:26 (UTC)
From: [identity profile] gineer.livejournal.com
\\Когда сейчас говорят про искусственный интеллект, обычно имеют в виду рекуррентные сети с памятью, их в прошлом веке обучать не умели.

до 80ых железо было такое,
что проще было городить железячные перцептроны...

а в 90-ых усе менялось оченрь быстро.

однако же, если мне не изменяет склероз,
то то ли в конце 90-ых, толе начале нулевых - попадалась инфа про платы расширения с нейросетками -- так что, процесс шел

Re: Не совсем

Date: 2018-11-23 16:29 (UTC)
From: [identity profile] gineer.livejournal.com
В 90-ых уже помню,
бодался с Чессмастер 2000...

так напоролся в нем на явную багу -- в некоторых позициях он не давал сделать некоторые ходы...
явно потому что соответствующей ветки БД ему не хватало.

Re: Не совсем

Date: 2018-11-23 16:45 (UTC)
From: [personal profile] malobukov
Самая маленькая эндшпильная таблица занимает 360 килобайт, при том что вся шахматная программа целиком была около 8.

Re: Не совсем

Date: 2018-11-23 16:58 (UTC)
From: [identity profile] gineer.livejournal.com
Ок. Хорошая должно быть была программа.