Основная идея машинного обучения, в чем ее суть?

Основная идея машинного обучения - выдача корректного результата на наборе статистических данных НЕ математическим методом с возможностью дообучения.

Под "Не математическим методом" подразумевается алгоритм, который высчитывает значения весов до тех пор, пока погрешность между полученным значением на выходе функции и корректным ответом не станут идентичны или очень близки друг к другу.

Набор данных - это те данные, где каждая единица информации близка по типу и/или смыслу другой единицы информации. Например, изображения с рукописными цифрами, изображения с животными, аудиокниги с определенной тематикой, комментария.

Суть обучения с учителем - это попробовать подогнать некоторую функцию к заранее известным ответам, чтобы функция не сильно ошибалась.

Суть машинного обучения в целом - первоначально где-то нарыть эти заранее известные ответы или организовать их сбор, а после попытаться подобрать самый лучший класс функций из доступных.

Основная идея машинного обучения состоит в том, чтобы расставить веса соединений нейронов так, чтобы определённые комбинации входных сигналов давали правильные выходные сигналы

Теорема Цыбенко. Заключается в том, что нейросеть может аппроксимировать любую функцию с любой точностью.