Иван Киселев, Llama 3 не пойдет, у нее контекст маленький, LLama 3.1 можно попробовать.
В реальности GPT-4 хорошо парсит и конвертит большие объемы текстовой информации. К примеру информацию с сайтов в JSON-LD формат и потом это можно просто вставить в базу данных.
Иван Киселев, Ollama — это оболочка а не LLM модель, модели есть разные, ну и надо правильную температуру или топ_p ставить чтобы меньше фантазировала.