Комментарии пользователя Alex Craft
anon, я примерно это понимаю, может поэтому мое обьяснение запутанно, непонятно, и может в чем то неверно :).
Для оценки точности предсказания нужно out-of-sample predictive likelihood p(y[t+1] | y[1:t], θ) t in [1:T].
Теоретически MCMC может это сделать, практически нет, это потребует полного рефиттинга MCMC для каждой точки из тысяч, что займет месяцы расчетов. MCMC не может эффективно работать как онлайн алгоритм.
GARCH, Фильтр Калмана, и т.п. — могут, это эффективные алгоритмы для онлайн фильтрации, но они не работают в случае нелинейных моделей со скрытыми состояниями. Для этого нужен Particle Filter.
Модель SV в MCMC внешне выглядит рекуррентно, якобы последовательно шагая от 1..T, похоже на фильтр. Но
MCMC работает совершенно по другому и делает сглаживание сразу по всем данным. Алгоритм MCMC во время фиттинга
сливает эту рекурсию в единое распределение и рассматривается все точки 1..T одновременно. Т.е. MCMC подглядывает в будущее.
Строго говоря фильтрация тоже подглядывает в будущее, но только для оценки параметров. Сглаживание подглядывает в будущее и для параметров и для скрытых переменных.
Чтобы точно расчитать out of sample likelihood нужно: 1) сделать фиттинг модели MCMC используя данные [1: Т] 2) затем взять постериор полученных параметров, выкинув постериор скрытых состояний, и рассчитать последовательно скрытое состояние для каждой точки t in [1:T] через Particle Filter 3) Либо, поскольку Particle Filter сложная вещ и требует много усилий, сделать приближенную оценку через PSIS-LOO, но, он вроде как, плохо работает для экстремальных режимов, и годится только для оценки «в среднем», поэтому эта оценка условна.
За ваше предложение спасибо, пока обдумываю… чуть позже прокомментирую...