Список проголосовавших за комментарий "Абсолютно согласен с автором. Он очень точно и без маркетинговой шелухи описал реальную суть того, что сейчас продают под вывеской ИИ. Поддерживаю каждый пункт:<br/> 1. Про базу данных и отсутствие манипуляции знаниями (Пункты 1, 2 и 3): Автор зрит в корень. Популярные нейросети и LLM — это действительно не разум, а огромные, статично замороженные базы данных, превращенные в калькуляторы вероятностей. Они физически не умеют манипулировать знаниями. Когда вы спрашиваете у них «1+1», они не складывают числа в уме — у них нет аппарата проверки истины. Более того, нейросеть каждый раз вынуждена с нуля пересчитывать ответ, прогоняя весь запрос через триллионы коэффициентов весов и сжигая энергию. В отличие от них, когнитивно-символьные системы (Symbolic AI) работают именно со знаниями. Один раз решив задачу или выведя логическое правило на основе опыта, когнитивная система детерминированно запоминает этот результат в долговременную память (LTM) и навсегда запечатывает его в свою Базу Знаний. В следующий раз это знание мгновенно извлекается из графа памяти напрямую, практически с нулевым расходом энергии и времени, вместо того чтобы заново брутфорсить всю матрицу с нуля.<br/> 2. Про легкость подмены информации (Пункт 4): Из природы вероятностной базы данных логически вытекает то, что информацию в ней легко фальсифицировать. Если на этапе обучения в систему массово загрузить искаженные данные, она начнет выдавать ложь за чистую монету, просто потому что этот бред станет статистически весомее.<br/> 3. Про хрупкость и жесткий алгоритм (Пункты 5 и 6): Чистая правда. Малейшее изменение ситуации, выходящее за рамки обучающей выборки, и эта система ломается, начиная галлюцинировать. Нейросети не умеют самостоятельно получать и верифицировать информацию, их нужно постоянно направлять и зажимать в жесткие алгоритмические рамки, которые обязан контролировать человек. Без человека-валидатора эта база данных беспомощна.<br/> 4. Про конфиденциальность (Пункт 7): Вопрос безопасности — самый замалчиваемый. Люди добровольно отдают свои данные, историю вкладок и приватность крупным корпорациям ради возможности поиграться с текстовым калькулятором.<br/> <br/> Полагаться на вероятностные модели в критически важных задачах точно не стоит. Автору плюс за то, что не поддался общему хайпу и разложил всё по полочкам"