Подскажите,как математически определить тренд (кроме автокоррелограммы) и его длительность.

Наличие тренда можно определить, например, с помощью скрипта R Decomposition или использовать регрессию. Но, трен  вычисляется, когда он уже есть. А определение длительности тренда -это прогнозирование, с этим будут проблемы и результат весьма сомнительный.   

Тренд можно определить только постфактум, но это не мешает использовать «тренд» в торговле.

Вот это вопрос! Зарождение тренда никак не определить, тем более математически.

Занимался этим достаточно давно, поэтому ссылок не сохранилось. Но достаточно в Гугле набрать на английском интересующую Вас тему и найдете. Если при этом интересует скрипты на R, то в конце добавляйте — R code. Материала много, не всегда относится к торговле, но можно приспособить.