Ответы на комментарии пользователя Ho_Chu

Мои комментарии:в блогах в форуме
Ответы мне:в блогах в форуме
Все комментарии: к моим постам

Ho_Chu, штукатурщик и каменщик — там движения достаточно простые и стандартные. Сантехники и электрики много работают в труднодоступных местах + мелкая моторика и нестандартные решения. Думаю следующие после курьеров это сварщики на вход пойдут. Там з/п очень большие, а механика движений проще чем у сантехников и электриков.

 

avatar
Vkt
  • Вчера в 13:59
  • Еще
Ho_Chu, На них точно круглый год можно
avatar
Олег Ков
  • 21 августа 2026, 18:06
  • Еще
Ho_Chu, 2 спарка например, и влезающая на нах модель
avatar
Гуру Хренов
Популярный автор
  • 20 августа 2026, 00:33
  • Еще
Ho_Chu, я бы не забывал, если бы с ним регулярно сталкивался.
А пока я решаю узкие задачи — говорю что где добавить или какой узкий функционал реализовать, и вот минимум что оставался это сейчас в клоде «6% left». Но тут я долго с ним работал в одной сессии.
Так что, видимо, надо исходить из тех задач, которые решаешь.
avatar
zhorzh
  • 20 августа 2026, 00:14
  • Еще
+1
Ho_Chu, загрузить — точно нет, а выполнить задачу — поэтапно, общей стоимостью 10+ млн токенов — можно. Решается довольно просто: субагенты, канбан-воркеры, фиксация каждого решения в журнал проекта чтобы не потерять готовые решения и не путать шаги выполнения задачи + функция context compaction для сессии = очень приличный результат. И все в одном окне сессии.
avatar
Антон Иванов
  • 20 августа 2026, 00:02
  • Еще
+1
Ho_Chu, лимиты контектсного окна, хоть и костылями, но можно подлечить — у меня в одной сессии задачи на 10+ млн. токенов решаются, без падений и потерь. Но в целом это хреновая штука, сильно бесит, конечно.
avatar
Антон Иванов
  • 19 августа 2026, 22:54
  • Еще
Ho_Chu, а сколько токенов в секунду на инференс и префилл вы планируете получить в такой конфигурации?
 
avatar
Гуру Хренов
Популярный автор
  • 19 августа 2026, 19:59
  • Еще
Ho_Chu, понятненко, товарисчь тихо съехал с темы. 
avatar
Beach Bunny
  • 19 августа 2026, 19:51
  • Еще
+1
Ho_Chu, то есть по твоему между 96 и 98 огромная разница?
Ok

— то есть 96Gb НЕ хватит для DeepSeek4-Pro !

— Но вот 98Gb ТОЧНО хватит для DeepSeek4-Pro и все будет хорошо работать? 
-----
Ну и с какой скоростью у вас будет работать на 98Gb VRAM?
avatar
Beach Bunny
  • 19 августа 2026, 19:46
  • Еще
Ho_Chu, ниже почитай что ты писал
avatar
Beach Bunny
  • 19 августа 2026, 19:31
  • Еще
+1
Ho_Chu, не, тыж писал про DeepSeek4 Pro которому достаточно 96Gb VRAM ?
А теперь пишешь про Flash который примерно в ШЕСТЬ раз МЕНЬШЕ.

avatar
Beach Bunny
  • 19 августа 2026, 19:22
  • Еще
+1
Ho_Chu, и это все что ты можешь ответить по теме.
Очень содержательный ответ. 
avatar
Beach Bunny
  • 19 августа 2026, 19:08
  • Еще

Ho_Chu, угу, напиши какая у тебя будет скорость генерации при всего 96Gb VRAM   для DeepSeek 4 Pro.

У меня вот DeepSeek4-Flash которая гораздо меньше,  на 230Gb VRAM на RTX4090 дает 40 tok/sec генерации, для кванта Q8.

У тя же ДВА спарка и 256Gb VRAM и ты пишешь что этого больше чем достаточно для DeepSeek4-Pro.

Ну так и сколько у тебя токенов ? 

avatar
Beach Bunny
  • 19 августа 2026, 18:53
  • Еще
Ho_Chu, для 4х Спарков нужен будет еще Свитч, как ты их соеденишь без него.
Кстати Свитч стоит чуть дешевле одного Спарка
avatar
Beach Bunny
  • 19 августа 2026, 19:29
  • Еще
+1
Ho_Chu, балабол, ты сам то хоть пробовал запускать LLM с быстрым SSD, давай напиши сколько у тебя получается и с какой моделью 
avatar
Beach Bunny
  • 19 августа 2026, 18:38
  • Еще
Ho_Chu, так сколько памяти надо, чтобы пользоваться одному на локальной модели в режимах вопрос-ответ в тексте, без генерации картин, видео и писания длинных многостраничных текстов.
avatar
dim800
  • 19 августа 2026, 18:00
  • Еще
0
Ho_Chu, я понимаю, вот, что говорят источники

avatar
Auximen
Smart-lab премиум
  • 19 августа 2026, 17:41
  • Еще
0
Ho_Chu, но у NVIDIA DGX Spark в описании написано, что он позволяет работать с моделями до 200 миллиардов параметров, а при объединении 2-х до 405 миллиардов параметров, в то время, как у DeepSeek-V4-Pro 1,6 трлн параметров, 2 х 128 Гб универсальной памяти (это означает минус 15 Гб оперативной памяти на задачи системы) для этой модели явно недостаточно.
avatar
Auximen
Smart-lab премиум
  • 19 августа 2026, 17:21
  • Еще
Ho_Chu, а потом дефолт как с гко. И нет денег, только цифры в мониторе
avatar
Попов Андрей
  • 16 августа 2026, 17:55
  • Еще
Выберите надежного брокера, чтобы начать зарабатывать на бирже:

полезные записи за 24 часа

★6 4 В России появился экзамен на статус "квала": что это и как его сдать
★6 14 on risk - no porsche или как я внезапно тильтанул на этой неделе
★5 21 получить степень PhD — Doctor of Philosophy 🤦, достаточно разбираться ..
★4 0 Бюджет получит более 600 млрд руб. дивидендами, Интер РАО сокращает фин. показатели, дефляция сэр!
★4 3 Аукционы Минфина — министерство ожидает стабилизации долгового рынка, но этого не происходит, доходность ОФЗ, наоборот, показывает рост.
★3 203 С чем мы имеем дело в этой сво против нато.
★3 5 OZON обогнал WB по продажам, правда, только в июле
★2 5 Чего ждал на прошедшей неделе, чего теперь жду от предстоящей (в картинках)
★2 6 Как нужда убивает профит
★2 21 10 лет инвеста в нашу фонду и 6 в международную. Выводы.
+108 19 А помните пост "Шорт АЛРОСА на 150 миллионов"?
+77 21 10 лет инвеста в нашу фонду и 6 в международную. Выводы.
+65 6 Как нужда убивает профит
+56 3 Аукционы Минфина — министерство ожидает стабилизации долгового рынка, но этого не происходит, доходность ОФЗ, наоборот, показывает рост.
+54 203 С чем мы имеем дело в этой сво против нато.
+51 26 Тимофей лайкает Дубину
+53 17 Теодор Драйзер "Финансист" (1912) - отзыв о книге
+46 34 Итак, случилось то, что совершенно невозможно было предсказать, но при этом было совершенно логично.
+41 14 теоретики заговора маненько обкакались
+39 16 Работа печатного станка: динамика наличных в России ВЫВОД

самые обсуждаемые сегодня

203к С чем мы имеем дело в этой сво против нато.
74к Путь к мобилизации
38к бенза у них нет ))
37к Рост количества дефолтов Заявление Путина ВЫВОД о том, какие бумаги планирую держать в своих портфелях
36к Ozon: Сегодня в результате отражения атаки БПЛА пострадал логистический центр Ozon в Оренбургской области. Все системы сработали в штатном режиме, эвакуировано более 300 работников
29к Выкупят ли утреннюю просадку на тонком воскресном рынке?
28к Экономист: «У людей нет и не будет средств на накопления» ....
26к Тимофей лайкает Дубину
24к про "могилизацию" хохлов ☠️, сказали до последнего так до последнего "человика да женки"
21к получить степень PhD — Doctor of Philosophy 🤦, достаточно разбираться ..
....все тэги
UPDONW
Новый дизайн