Список проголосовавших за комментарий "Roman Ivanov, про рой уже читаю, руки дойдут — реализую. <br/> МК я тоже не в лоб использую, есть методы ускорения сходимости, особенно используя особенности задачи. В разы обычно легко. Вот со сверхлинейной сходимостью посложнее, но, если задача позволяет, можно комбинировать с методом сопряженных градиентов, например. "