Константин Р, через 20 лет солнышко и батарейки зарулят газ окончательно. Напомню, стоимость хранения kWh упала с 1000 до 53 баксов за 10 лет. Смотрим на 10 баксов через год-два.
Антон Б, все прекрасно кроме размера контекста. Топовый ChatGPT может 128 тыс. токенов, вот и вся его «память». Увеличить до 256 тыс. и больше мешает то, что сложность обучения растет значительно быстрее размера контекста.
>Или дообучить чтобы по сайту отвечал по например деталям к мотоциклу....
Это не обучение, это работает не меняя веса в модели.
Антон Б, в обученной модели есть фиксированные слои, которые играют роль памяти, в них хранятся факты. Но, эти слои фиксированы, в них ничего добавить нельзя без
переобучения модели. А это очень дорого.