ИИ - локалка vs. облако

Сейчас почему-то все резко побежали ставить локальные LLM. Главный аргумент — «я не хочу отдавать свой код в облако, вдруг украдут алгоритм».

Я тоже об этом задумался и полез смотреть, что вообще нужно, чтобы локальная модель была не игрушкой. И тут начинается самое интересное.

Чтобы нормально гонять хотя бы приличную 30–32B модель, желательно иметь 24 ГБ видеопамяти. То есть условно RTX 3090/4090 или что-то аналогичное. Нормальная машина вокруг этого — уже примерно €1500–2000, а если хочется 70B и выше, бюджет улетает ещё дальше.

И вот у меня возникает простой вопрос. Если меня не устраивает по качеству какой-нибудь облачный DeepSeek-Flash (кстати новый DeepSeek-flash 4.1 прямо скажем очень хорош), с чего вдруг локальная модель на домашнем железе должна оказаться умнее?

Она может быть удобнее. Может быть приватнее. Можно не платить за токены (Хотя мне лично $100 мозгов для агента Hermes хватает с достатком). Можно кормить ей свой репозиторий, документацию, результаты тестов. Но умнее от того, что она стоит у меня под столом, она не становится.

А теперь про самый страшный аргумент — «украдут торговый алгоритм».

Я не говорю, что надо отправлять куда попало API-ключи, пароли, приватные ключи от кошельков и доступы к брокерам. Это вообще отдельная тема и так делать нельзя.

Но страх, что OpenAI/Anthropic/Google/DeepSeek увидят код розничного трейдера и срочно побегут торговать его стратегию, мне кажется сильно преувеличенным.

Допустим, я прямо сегодня выложу исходник своего алгоритма в Telegram. Что дальше? Возьмешь и начнешь проектировать к нему исполнительный движок? Да я его пилю три месяца без перерывов на сон и закуску, и у каждой биржи лезут свои тараканы, ну давай пилить будем вместе. Так подписка в телеграм $100 или 25% от прибыли на автомате. Какой смысл?

Через полгода без оптимизации он вполне может перестать нормально работать. Какой-то инструмент отвалится, как у меня BNB, какой-то взлетит. Потому что сам файл с кодом — это ещё не торговая система. 

Есть данные, параметры, период оптимизации, выбор рынка, исполнение, комиссии, риск-менеджмент, фильтры, инфраструктура и постоянная адаптация к изменившемуся рынку.

Можно украсть формулу. Гораздо сложнее украсть весь процесс, который делает её рабочей. Но даже если так, стоит тебе поставить движок на VPS так его вскрыть могут, репозиторий из Git Hub угнать...

И вот тут, мне кажется, у многих трейдеров начинается немного паранойя.

Мы боимся, что кто-то украдёт нашу «секретную альфу», хотя гораздо реальнее потерять деньги из-за переоптимизации, смены режима рынка, комиссии, проскальзывания или просто плохой статистики. Впрочем если твоя стратегия такая крутая что ее могут украсть, а чего ты ее не продашь в какой-нибудь Сбер, JP Morgan или на худой конец в ARK? Да там тебе дадут пару лямов, должность сеньиор кванта с зарплатой 15 тыс. в месяц, и опцион на акции компании. 

Если у тебя фонд, сотни миллионов под управлением, уникальные данные и команда исследователей — конечно, разговор другой. Там собственная AI-инфраструктура за несколько десятков тысяч вообще не проблема. Впрочем я знаю одну главную компанию по добыче сырья на планете Земля, так вот они используют облачные ИИ от разных компаний и почему-то не стоят шахту набитую GPU c локальными моделями. Видимо считают, что это не очень рентабельно...

Но если ты частный трейдер, то покупать GPU-станцию за несколько тысяч евро только потому, что страшно показать модели кусок Python-кода, по-моему, странная экономика.

Я пока вижу более разумный вариант:

сильные облачные модели — для разработки и анализа;

локальная машина — для расчётов, бэктестов, библиотеки Python, Docker;

а секреты, ключи и доступы — вообще не отправлять ни одной модели.

Вот это уже похоже на нормальный баланс между безопасностью и здравым смыслом.

Вольному конечно воля и всегда найдутся любители телефонов TA-57, которые можно использовать не только по назначению, только 40-лет назад шифрование ЗАС-телефонии было устойчивым в течении 3 часов. Про сегодня я даже думать боюсь. 

Хотелось бы услышать экономические аргументы любителей локальных LLM, в чем профит?

Лично я пользуюсь облачными Claud, Codex, DeepSeek на все про все плачу чуть больше сотки в месяц, и не особо горю желанием покупать себе подписки выше