Комментарии к постам Гуру Хренов
dim800, эти четыре процессора по современным меркам довольно слабы.
Далеко не самый современный процессор Ryzen 9 5950X под сокет AM4 даёт вычислительные мощности сопоставимые с четырьмя Xeon E5 4657L v2:
technical.city/ru/cpu/Xeon-E5-4657L-v2-protiv-Ryzen-9-5950X
Далеко не самый мощный процессор Ryzen 7 9700X под сокет AM5 также даёт спосотавимые вычислительные мощности:
technical.city/ru/cpu/Xeon-E5-4657L-v2-protiv-Ryzen-7-9700X
В плане энергопотребения, 1,5 кВт — это как один компьютер с двумя RTX Pro 6000 Blackwell или двумя RTX 5090.
Ещё этот серверный компьютер будет шуметь как самолёт, потому что это сервер. Его придётся держать в отдельной комнате. Для домашней эксплуатации это не очень хорошо подходит.
Платформа Ivy Bridge для своего времени довольно хороша была. Я сам довольно долго использовал компьютер на LGA1155 и с процессором Ivy Bridge, под конец эксплуатации ставил Xeon E3-1280 v2.
Но Ivy Bridge — это 2012 год, а на дворе уже 2026.
Всё преимущество данного компьютера — за такие деньги (193 000 рублей) иного способа получить 1 ТБ оперативной памяти просто нет.
Кстати, на счёт оперативной памяти. В данном сервере каждый процессор управляет только 1/4 частью оперативной памяти.
И когда надо обратиться к памяти, которая не контролируется процессором, под которым выполняется задача, обращающаяся к данной области памяти, то процессор посылает запрос к контроллеру другого процессора, что уже увеличивает задержки при работе с оперативной памятью.
А ещё шина данных, соединяющая процессоры, имеет кольцевую структуру. То есть, может потребоваться обратиться не к соседнему процессору, а через процессор, что ещё увеличивает задержки и снижает производительность.
Данный сервер можно использовать под нейросети в режиме inference (то есть, генерация ответа), но скорость генерации токенов будет умеренной.
Данный сервер скорее хорош под виртуализацию, то есть, на нём хорошо запускать множество виртуальных машин.
Посетитель, нет, 2 Мировая война в т.ч. окончилась благодаря техническому прогрессу, венцом которого была атомная бомба, сброшенная на города Японии. Если бы у Гитлера на год раньше появилась атомная бомба, история пошла бы по другому пути.
Простые LLM в руках людей с голоовой на простых компах дадут больше выхлопа чем супер-модели на самых крутых компах в руках людей, которые просто захотели слишком много денег.
dim800, единственное преимущество данной системы — это большой объём оперативной памяти.
Андрей, это было год назад, возможно, я смотрел «укороченные» версии 5090 с 24 Гб или 5080 с 24 Гб, помню, что старшая карта относительно той, которую купил, и с 24 Гб, 32 даже не рассматривал. Цена за 24 была +-127 тыс. руб. на Авито (параллельный импорт через Казахстан). Купил 5070Ti 16 Гб за 72К (новая, запечатанная), в DNS она лежала за 108К.