Список проголосовавших за комментарий "Replikant_mih, <br/> 1. Думаю очевидно, что оптимизация не возможна без определения целевой функции (или, кому нравится, функции полезности). Поэтому название соответствует содержанию поста.<br/> 2. Разумеется важны и методы оптимизации, но здесь «всё уже придумано до нас» и проблема локальных максимумов никуда не денется.<br/> 3. Что касается методов контроля качества оптимизации. Думаю здесь вы говорите скорее не о контроле качества оптимизации, а об обобщающей способности модели (т.е. отсутствии переобучения). Здесь тоже ничего нового не изобрели, всё те же LOO, проверочные выборки... <br/> 4. Возможно, аналогично в п.2., под «хорошими» методами оптимизации вы имеете ввиду модели, которые не склонны к переобучению?"