vak: (Житель планеты Узм)
[personal profile] vak
Узнал новое слово: как называется четвёртая размерность, в дополнение к высоте, ширине и глубине (или длине). Соответственно height, width, depth, и вдобавок ещё trength. "Something with great trength is trong, and something with small trength is tarrow."

Date: 2023-03-09 03:36 (UTC)
x86128: (Default)
From: [personal profile] x86128
От оно что! Почему-то думал что это игра слов :)

Date: 2023-03-09 04:09 (UTC)
dennisgorelik: 2020-06-13 in my home office (Default)
From: [personal profile] dennisgorelik
> как называется четвёртая размерность

Кем называется?
В Википедии слово trength не видно.

Четвертая размерность, обычно, называется "time", а не "trength".

Date: 2023-03-09 06:56 (UTC)
dennisgorelik: 2020-06-13 in my home office (Default)
From: [personal profile] dennisgorelik
> https://diannesalerni.com/wip/multi-dimensional-vocabulary/

Выбор имен в этой статье разумный.
Но только если эта дополнительная размерность, действительно, нужна.

> мне вот надо, по делу между прочим.

Какой бизнес-смысл у размерности "trength"?

Date: 2023-03-09 08:24 (UTC)
dennisgorelik: 2020-06-13 in my home office (Default)
From: [personal profile] dennisgorelik
Зачем нужна четырёхмерная матрица в нейронных сетях?
Впрочем, непонятно, зачем нужна трёхмерная матрица в нейронных сетях.
Нейронная сеть же представляется набором аксонов (list).
Двухмерная матрица может отражать изображение.
Но уже трёхмерная матрица выглядит ненужной абстракцией.

Why use 4D in a neural network?

Date: 2023-03-09 14:54 (UTC)
dennisgorelik: 2020-06-13 in my home office (Default)
From: [personal profile] dennisgorelik
> азы нейронных сетей. Читайте Яна Лекуна.

Статья https://en.wikipedia.org/wiki/Yann_LeCun не упоминает ни matrix, ни 3D ни 4D.

3D указывается первым признаком "Convolutional neural network", но 4D не упоминается вообще:
https://en.wikipedia.org/wiki/Convolutional_neural_network
3D volumes of neurons. The layers of a CNN have neurons arranged in 3 dimensions: width, height and depth.[64] Where each neuron inside a convolutional layer is connected to only a small region of the layer before it, called a receptive field. Distinct types of layers, both locally and completely connected, are stacked to form a CNN architecture.

Re: Why use 4D in a neural network?

Date: 2023-03-09 15:20 (UTC)
From: [personal profile] dijifi
На Coursera должен быть бесплатный ликбез от Andrew Ng

Date: 2023-03-09 20:41 (UTC)
dennisgorelik: 2020-06-13 in my home office (Default)
From: [personal profile] dennisgorelik
> Вот более информативная статья.

1) Вы имеете ввиду, что русскоязычная статья более информативна, чем англоязычная статья?

2) Ни в русскоязычной, ни в англоязычной статье 4D не упоминается вообще.
Использование 4D neural network - это ваше собственное изобретение?

Date: 2023-03-09 21:45 (UTC)
From: [personal profile] dijifi
Про тензоры слышали?

Date: 2023-03-10 00:00 (UTC)
From: [personal profile] dijifi
Молодец.

А про tensorflow?

Date: 2023-03-10 02:33 (UTC)
dennisgorelik: 2020-06-13 in my home office (Default)
From: [personal profile] dennisgorelik
Tensorflow обрабатывает массивы данных для Neural Networks.

Как это объясняет зачем нужна 4D-матрица в Neural Network?

Date: 2023-03-10 03:13 (UTC)
From: [personal profile] dijifi
А теперь полюбуйтесь на API.

Date: 2023-03-10 06:35 (UTC)
dennisgorelik: 2020-06-13 in my home office (Default)
From: [personal profile] dennisgorelik
Этот API?
https://www.tensorflow.org/api_docs/python/tf

Я не вижу упоминания четырехмерных матриц.

Date: 2023-03-10 06:48 (UTC)
From: [personal profile] dijifi
Не видите? А они там есть!

Date: 2023-03-10 08:57 (UTC)
dennisgorelik: 2020-06-13 in my home office (Default)
From: [personal profile] dennisgorelik
Может процитируете, что именно вы считаете 4D матрицей в https://www.tensorflow.org/api_docs/python/tf ?

Date: 2023-03-10 14:15 (UTC)
From: [personal profile] dijifi
Вам нужно смотреть на keras, и задуматься что такое channel и batch_size

Date: 2023-03-10 18:28 (UTC)
From: [personal profile] dijifi
Да, по книгам было бы легче.

Date: 2023-03-10 23:16 (UTC)
dennisgorelik: 2020-06-13 in my home office (Default)
From: [personal profile] dennisgorelik
> смотреть на keras, и задуматься что такое channel и batch_size

Смотрим:
https://www.tensorflow.org/api_docs/python/tf/keras
Modules
activations module: Built-in activation functions.
applications module: Keras Applications are premade architectures with pre-trained weights.
backend module: Keras backend API.
callbacks module: Callbacks: utilities called at certain points during model training.
constraints module: Constraints: functions that impose constraints on weight values.
datasets module: Small NumPy datasets for debugging/testing.
dtensor module: Keras' DTensor library.
estimator module: Keras estimator API.
experimental module: Public API for tf.keras.experimental namespace.
initializers module: Keras initializer serialization / deserialization.
layers module: Keras layers API.
losses module: Built-in loss functions.
metrics module: All Keras metrics.
mixed_precision module: Keras mixed precision API.
models module: Keras models API.
optimizers module: Built-in optimizer classes.
preprocessing module: Utilities to preprocess data before training.
regularizers module: Built-in regularizers.
utils module: Public Keras utilities.
Нет ни "channel" ни "batch_size".

Date: 2023-03-10 23:36 (UTC)
From: [personal profile] dijifi
А вы читайте дальше, по ссылочкам. И примерчики тоже.

Date: 2023-03-11 00:35 (UTC)
dennisgorelik: 2020-06-13 in my home office (Default)
From: [personal profile] dennisgorelik
https://stats.stackexchange.com/questions/153531/what-is-batch-size-in-neural-network/153535#153535
The batch size defines the number of samples that will be propagated through the network.
What does batch_size have to do with dimensions?
https://machinelearningmastery.com/a-gentle-introduction-to-channels-first-and-channels-last-image-formats-for-deep-learning/
Color images have height, width, and color channel dimensions.
I see how color can be an additional dimension.
{Horizontal, Vertical, Color} of an image can form 3D output matrix.

What is the reason to have 4D output matrix?

Date: 2023-03-11 01:10 (UTC)
From: [personal profile] dijifi
А Вы почему спрашиваете?

Но я всё равно отвечу. На самом деле CNN преобразуют двумерные изображения в двумерные меньшей размерности (по ширине и высоте) но более многоканальные, где каждый канал — это натренированный аспект чего-то. Весь смысл ML в том, что инженеру не нужно знать что каждый канал несет.

Ну, а batch_size для эффективной имплементации.

Я тут только заметил что Вы искусственно себя ограничили только обработкой цветных изображений. Зачем Вы это сделали?

Ну как, книжки по ML читать будем, или найдём отмазку? Я не против отмазок, мне бы от Вас отмазаться как-нибудь.

Date: 2023-03-11 14:49 (UTC)
dennisgorelik: 2020-06-13 in my home office (Default)
From: [personal profile] dennisgorelik
> А Вы почему спрашиваете?

Чтобы понять, зачем нужно обрабатывать 4-мерные матрицы в Neural Networks.

> На самом деле CNN преобразуют двумерные изображения в двумерные меньшей размерности (по ширине и высоте)

Какой смысл преобразовывать в двухмерные матрицы?
На выходе же нужен лишь список (вектор). Или даже вообще только одно значение.

> но более многоканальные, где каждый канал — это натренированный аспект чего-то.

Допустим, что внутри Neural Network мы, всё равно, сохраняем двухмерные матрицы. С толстыми каналами.
Это, всё равно, 3D, а не 4D.

> Весь смысл ML в том, что инженеру не нужно знать что каждый канал несет.

Вообще-то, смысл ML (machine learning) в том, чтобы создать систему, которая будет самообучаться.
Почти всегда для этого инженеру (инженерам) нужно знать все детали имплементации.

> Ну, а batch_size для эффективной имплементации.

Но batch_size же не увеличивает размерность обрабатываемых матриц, верно?

> Вы искусственно себя ограничили только обработкой цветных изображений.

Какие еще бывают изображения, которые требуют бОльшей размерности обрабатываемых матриц?

А вы в своей работе используете Neural Networks?
Или для вас это лишь хобби?

> книжки по ML читать будем, или найдём отмазку?

Если я найду интересную книжку по ML, то прочитаю.
Но, пока что, книжки по ML довольно унылы.
Хотя бывают интересные статьи.

Date: 2023-03-11 19:01 (UTC)
From: [personal profile] dijifi
> А Вы почему спрашиваете?

Чтобы понять, зачем нужно обрабатывать 4-мерные матрицы в Neural Networks.


А это зачем? Хобби?

Какой смысл преобразовывать в двухмерные матрицы?
На выходе же нужен лишь список (вектор). Или даже вообще только одно значение.


На выходе может быть картинка.

Какой смысл преобразовывать в двухмерные матрицы?

Структура convolutional networks

Но batch_size же не увеличивает размерность обрабатываемых матриц, верно?

Неверно.

Почти всегда для этого инженеру (инженерам) нужно знать все детали имплементации.

Детали имплементации — это структура. Что конкретно сидит в канале какого-нибудь среднего уровня сетки определяется весами как результатом обучения и инженеру знать не надобно.


Какие еще бывают изображения, которые требуют бОльшей размерности обрабатываемых матриц?

Постоянно просят. Поищите Keras 4D.

А вы в своей работе используете Neural Networks?

Использую

Если я найду интересную книжку по ML, то прочитаю.

Ещё за денежку можно пройти курс. Нагрузка порядка 8 часов а неделю на несколько месяцев. Скучно не будет.

Date: 2023-03-11 21:17 (UTC)
dennisgorelik: 2020-06-13 in my home office (Default)
From: [personal profile] dennisgorelik
> Что конкретно сидит в канале какого-нибудь среднего уровня сетки определяется весами как результатом обучения и инженеру знать не надобно.

Как же инженер сможет принять решение о возможном направлении оптимизации, если он не понимает, какого рода данные находятся в канале?

> Поищите Keras 4D.

Первая ссылка:
https://stackoverflow.com/questions/52936132/4d-input-in-lstm-layer-in-keras
I have data with a shape of (10000, 20, 15, 4) where num samples = 10000, num series in time = 20, height = 15, weight = 4. So I have table 15x4 which is distributed over time.
В канал записывают время, что намекает о том, что это обработка видео.
Но зачем добавляют размерность "num samples" - вообще непонятно.
Это же усложняет обработку: вместо того, чтобы многократно обработать 3D матрицу, обрабатывается огромная 4D матрица.

>> А вы в своей работе используете Neural Networks?

> Использую

Что вам удается с помощью Neural Networks делать?

Date: 2023-03-11 21:48 (UTC)
From: [personal profile] dijifi
Как же инженер сможет принять решение о возможном направлении оптимизации, если он не понимает, какого рода данные находятся в канале?

Вот если Вы не понимаете как, Вы пропустили весь смысл ML.

Что вам удается с помощью Neural Networks делать?

Не могу об этом говорить, секрет не мой.

Date: 2023-03-12 16:26 (UTC)
dennisgorelik: 2020-06-13 in my home office (Default)
From: [personal profile] dennisgorelik
> Как же инженер сможет принять решение о возможном направлении оптимизации, если он не понимает, какого рода данные находятся в канале?

> Вот если Вы не понимаете как, Вы пропустили весь смысл ML.

ML program оптимизирует обработку данных на своем уровне (более низком).
Инженер оптимизирует ML program architecture на своем уровне (более высоком).

Если инженер не может оптимизировать ML program architecture, то зачем нужен такой инженер?

Date: 2023-03-12 16:34 (UTC)
From: [personal profile] dijifi
Инженер может и должен оптимизировать без того чтобы знать какие данные в конкретном канале в промежуточных уровнях.