Ответы на комментарии пользователя Ho_Chu

Мои комментарии:в блогах в форуме
Ответы мне:в блогах в форуме
Все комментарии: к моим постам

Ho_Chu, штукатурщик и каменщик — там движения достаточно простые и стандартные. Сантехники и электрики много работают в труднодоступных местах + мелкая моторика и нестандартные решения. Думаю следующие после курьеров это сварщики на вход пойдут. Там з/п очень большие, а механика движений проще чем у сантехников и электриков.

 

avatar
  • Вчера в 13:59
  • Еще
Ho_Chu, На них точно круглый год можно
avatar
  • 21 августа 2026, 18:06
  • Еще
Ho_Chu, 2 спарка например, и влезающая на нах модель
avatar
  • 20 августа 2026, 00:33
  • Еще
Ho_Chu, я бы не забывал, если бы с ним регулярно сталкивался.
А пока я решаю узкие задачи — говорю что где добавить или какой узкий функционал реализовать, и вот минимум что оставался это сейчас в клоде «6% left». Но тут я долго с ним работал в одной сессии.
Так что, видимо, надо исходить из тех задач, которые решаешь.
avatar
  • 20 августа 2026, 00:14
  • Еще
Ho_Chu, загрузить — точно нет, а выполнить задачу — поэтапно, общей стоимостью 10+ млн токенов — можно. Решается довольно просто: субагенты, канбан-воркеры, фиксация каждого решения в журнал проекта чтобы не потерять готовые решения и не путать шаги выполнения задачи + функция context compaction для сессии = очень приличный результат. И все в одном окне сессии.
avatar
  • 20 августа 2026, 00:02
  • Еще
Ho_Chu, лимиты контектсного окна, хоть и костылями, но можно подлечить — у меня в одной сессии задачи на 10+ млн. токенов решаются, без падений и потерь. Но в целом это хреновая штука, сильно бесит, конечно.
avatar
  • 19 августа 2026, 22:54
  • Еще
Ho_Chu, а сколько токенов в секунду на инференс и префилл вы планируете получить в такой конфигурации?
 
avatar
  • 19 августа 2026, 19:59
  • Еще
Ho_Chu, понятненко, товарисчь тихо съехал с темы. 
avatar
  • 19 августа 2026, 19:51
  • Еще
Ho_Chu, то есть по твоему между 96 и 98 огромная разница?
Ok

— то есть 96Gb НЕ хватит для DeepSeek4-Pro !

— Но вот 98Gb ТОЧНО хватит для DeepSeek4-Pro и все будет хорошо работать? 
-----
Ну и с какой скоростью у вас будет работать на 98Gb VRAM?
avatar
  • 19 августа 2026, 19:46
  • Еще
Ho_Chu, ниже почитай что ты писал
avatar
  • 19 августа 2026, 19:31
  • Еще
Ho_Chu, не, тыж писал про DeepSeek4 Pro которому достаточно 96Gb VRAM ?
А теперь пишешь про Flash который примерно в ШЕСТЬ раз МЕНЬШЕ.

avatar
  • 19 августа 2026, 19:22
  • Еще
Ho_Chu, и это все что ты можешь ответить по теме.
Очень содержательный ответ. 
avatar
  • 19 августа 2026, 19:08
  • Еще

Ho_Chu, угу, напиши какая у тебя будет скорость генерации при всего 96Gb VRAM   для DeepSeek 4 Pro.

У меня вот DeepSeek4-Flash которая гораздо меньше,  на 230Gb VRAM на RTX4090 дает 40 tok/sec генерации, для кванта Q8.

У тя же ДВА спарка и 256Gb VRAM и ты пишешь что этого больше чем достаточно для DeepSeek4-Pro.

Ну так и сколько у тебя токенов ? 

avatar
  • 19 августа 2026, 18:53
  • Еще
Ho_Chu, для 4х Спарков нужен будет еще Свитч, как ты их соеденишь без него.
Кстати Свитч стоит чуть дешевле одного Спарка
avatar
  • 19 августа 2026, 19:29
  • Еще
Ho_Chu, балабол, ты сам то хоть пробовал запускать LLM с быстрым SSD, давай напиши сколько у тебя получается и с какой моделью 
avatar
  • 19 августа 2026, 18:38
  • Еще
Ho_Chu, так сколько памяти надо, чтобы пользоваться одному на локальной модели в режимах вопрос-ответ в тексте, без генерации картин, видео и писания длинных многостраничных текстов.
avatar
  • 19 августа 2026, 18:00
  • Еще
Ho_Chu, я понимаю, вот, что говорят источники

avatar
  • 19 августа 2026, 17:41
  • Еще
Ho_Chu, но у NVIDIA DGX Spark в описании написано, что он позволяет работать с моделями до 200 миллиардов параметров, а при объединении 2-х до 405 миллиардов параметров, в то время, как у DeepSeek-V4-Pro 1,6 трлн параметров, 2 х 128 Гб универсальной памяти (это означает минус 15 Гб оперативной памяти на задачи системы) для этой модели явно недостаточно.
avatar
  • 19 августа 2026, 17:21
  • Еще
Ho_Chu, а потом дефолт как с гко. И нет денег, только цифры в мониторе
avatar
  • 16 августа 2026, 17:55
  • Еще
Выберите надежного брокера, чтобы начать зарабатывать на бирже:
....все тэги
UPDONW
Новый дизайн