Комментарии пользователя Гуру Хренов
Шустрый Йожег, бытовые игровые компьютеры, скорее всего, не подойдут, если только на них не стоят карточки типа rtx 6000.
Я с бытовыми компьютерами уже наигрался и, в принципе, это тупиковое направление.
Для себя пришёл к выводу, что сейчас самый бюджетный способ это сделать — это либо кластер из как минимум пары DGX spark, либо делать что-то на платформе gorgon halo от AMD, которая вышла пару дней назад (160 гигов видеопямяти плюс я еще две своих 5060ti подключу для самых активных экспертов — довольно умную MoE — модель можно будет запустить)
Единственная проблема-даже такой сетап обойдется где то в 10 килодолларов, так что я себя пока что не уговорил столько заплатить

Эта фотка — иллюстрация к анекдоту, который начинается как:
«Входят в бар отец семейства, лудоман и инвестор»?