Список проголосовавших за комментарий "zzznth, у вас почему-то весь анализ сводится к аналитической форме — это очень узкая интерпретация и к деревьям не сильно применимая — они строятся на дискретных признаках, там производной и быть не может. Да и наличие аналитической формы тоже очень мало дает, если у вас пространство признаков достаточно многомерное — все равно человек не сильно адекватно воспринимает такие функции. <br/> <br/> Вот строите вы зависимость вероятности рака легких от много факторов и получаете. В среднем по популяции вероятность рака 1%. А вот Shapley Values для признака курит +20%, бегает два раза в неделю -5% итого 16%. Вполне понятный инсайт — курить не надо вы очень сильно повышаете вероятность рака, бегать надо, но это не перекроет ваше курение."