Сбербанк потерял миллиарды из-за ошибок Искусственного Интеллекта. Можно ли верить, что ошибки исправлены?

Сомнение внушает одно слово, сказанное Грефом, — перекабировка. Этот термин означает, что матмодель (торговая система, например), построенная по историческим данным, за пределами этой истории начинает расходиться с реальностью. Креативщиков это не смущает, и они сразу же начинают поправлять числовые параметры модели, вводя в них более поздние исторические данные. Этот процесс и называется калибровкой.
Но дело в том, что в принципе любая матмодель, интерполирующая с некоторой точностью поведение «чёрного ящика» по историческим данным, за пределами этих данных бесполезна, если природа моделируемого процесса постоянно меняется. Закон Гука в физике тоже требует калибровки для получения коэффициента упругости. Но определив один раз этот коэффициент для некого материала, нам не нужно новых калибровок.
А вот экономисты (и трейдеры) занимаются этим без передыха. Это как если бы физики каждый квартал пересчитывали гравитационную постоянную. Бесстыдство креативщиков сродни цинизму цыганскому. «Ну что сказать… устроены так люди… желают знать что будет.»
Чуть более распостранённо об этом статья «Why economic models are always wrong» в журнале «Sientific American».
Более скрупулёзно вопрос разбирает Нассим Талеб в книге «Антихрупкость».
P.S. Мой опыт перекалибровки торговых систем в программе WealthLab согласуется с выводами Н.Талеба.