Список проголосовавших за комментарий "<p>Kot_Begemot,</p><p>GBN — это решающие деревья, а не сети. У них мало чего общего с сетями, и их обычно используют на табличных данных (в ручную сделанных фичах), а сети на сырых данных (кусок временного ряда, изображение, текст). </p><p> </p><p>KNN-регрессия — обучение с учителем. Вы ведь находите ближайших соседей и берете среднее их меток для предсказания. Раз метки есть, то это обучение с учителем. </p><p> </p><p>SVM — работает с линейноразделимыми поверхностями в спремляющем пространстве. Если вы используете, kernel trick (обычно rbf ядро), то можете вполне нелинейные прогнозы получать с помощью SVM. sklearn это все поддерживает из коробки. SVM может работать и с большим количеством данных, но он обычно уступает GBM, когда данных достаточно много, поэтому смысла в его использование на относительно больших данных обычно мало.</p>"