Среднеброд, мини-пк с AMD AI 395 max+ серьезную модель не потянет, я написал об этом выше… надо ждать AI 495 max+, там будет 192 Гб, но там пока непонятна скорость «выхода» ответов
ignat, зависит от запроса… если Вам нужно, грубо говоря, переиндексировать весь интернет, то Вы останетесь без штанов на подписке, а локалка позволит Вам не умереть от счетов
на самом деле проблема в том, что для того, чтобы проверить мало-мальски кажущуюся интересной идею, нужны нехилые стартовые ресурсы… и это переводит ИИ из разряда стартапа для любого студента в дорогую игрушку для взрослых дядь
кстати, на ебэе встречаются карты NVidia RTX 6000 Q-Max с 96 Гб видеопамяти по 3-5Кб, но покупать там стрём, да и 96 < 98 так что надо брать 2 штуки, а это уже недешево для экспериментов… а новые так вообще по 10-13 Кб
мне для моих задач надо ставить DeepSeek V4-Pro на локалке… а это уже от 98 Гб видеопамяти и даже DGX не тянет… и EVO-X3 395+ не тянет, но до конца года обещают EVO-X3 с 495+ — вот там будет уже 192 Гб общей, из которой под видео можно будет выделять 160 Гб — там и попробуем развернуть все свои хотелки...
DrManhattan, да, текущие ИИ — это просто цепи Маркова...
и более-менее приличный ИИ надо делать на совсем других принципах
интересно, какие-такие аналоги имеются в виду?
ninarozd, а где ещё айтишница может получить образование, чтобы тащить 235К платежей/месяц?
и если айтишница получает такие зарплаты, то ей нет никакого смысла идти в колледж...
это почти такой же оксюморон, как если бы Абрамович пошёл директором в Пятерочку в Мурино )))
ninarozd, вселенная Ваших фантазий безгранична, поэтому в ней возможно всё...
сначала вышка на айтишницу в физтехе, а потом колледж на продавщицу тканей в рассрочку...
конечно, чего тут удивляться...
«никогда ещё Штирлиц не был так близок к провалу… что-то выдавало в нем советского разведчика: то ли лихо заломленная набекрень будёновка, то ли волочащийся сзади парашют )))» ©
т.е. высшего образования у Вас нет? маленький ребенок и при этом в одно лицо тянете 235К ежемесячных платежей по кредитам/ипотекам?
...
большей х@рни давно не читал ©