зачОт

chizhan, китайцам пофиг

чЁ почЁм? сколько платят?

про них без мата невозможно

Олег Ков, а на оленях с упряжками?

Отмечусь, чтобы не потерять

3-е сентября забыл ИМХО

а зачем им плановое рефинансирование? мельница? или пирамида?

Гуру Хренов, напомните мне вопрос после 10 сентября

Антон Иванов, если бы можно было загрузить в него контекст на 10 млн токенов, я, может быть, и не устраивал бы танцев с бубнами… Хотя Ваш опыт интересен

zhorzh, не забудьте про лимит контекстного окна 

Гуру Хренов, в какой именно?

Beach Bunny, ты тупой что ли? перечитай всё медленно и внимательно и будет тебе счастье

Beach Bunny, ты что, — тоже как ПРО? он тоже считал попервоначалу, что 96 больше 98 ))) повторяю вопрос: ткни пальцем, где я писал, что 96 Гб видеопамяти достаточно для ПРО?

Beach Bunny, а ну-ка ткни пальцем, где я писал, что 96 Гб достаточно для ПРО?

Beach Bunny, на минисфоруме-С1 на 128 Гб общей памяти, новый Флэш-0731 с q3 выдает 18-20 токенов — доволен?

dim800, умножайте число активных параметров в миллирдах на 2, получите размер видео памяти в гигабайтах, добавьте 30% и этого будет достаточно для начала работы… Все веса должны умещаться на ссд… Будет кряхтеть, тупить, но работать))) а если пабахатому, то все веса в видеопамять и можете заявлять, что у Вас есть своя модель ИИ))) 

Beach Bunny, в штанах тебя балабол, не надо грубить незнакомцам

так что ИИ не так дорог, как могло бы показаться, но, с другой стороны, стоимость любого стартапа с ним резко выросла, по сравнению, например, с открытием какой-нибудь шаурмичной )))