Мальчик buybuy,
>Проблема в том, что оно никогда не гладкое
Значит надо сгладить! :) Я не занимаюсь алготрейдингом, просто показалось, что сделать из цены, индикаторов и эквити непрерывные функции и потом по ним заниматься оптимизацией может быть проще.
>Приращение эквити = приращение цены на след. баре * знак(индикатор)
Наверное, все же Приращение эквити = приращение цены на след. баре * знак(размер позиции)
>Попробуйте продифференцировать функцию sign )))
Не вижу проблемы. Производная везде 0, кроме точки 0, где она не определена. Но в точке 0 нам вычислять нечего, так как это означает, что позиции нет и эквити тоже нет.