Почему ИИ никогда не реализуется.
Здравствуйте.
1. Искусственный интеллект не является интеллектом.
2. ИИ — это база данных.
3. База данных(БД) не умеет думать, если спросить у ИИ: 1+1=? То вы не получите верного ответа, а получите то что занесено в эту базу.
4. Из 3 пункта следует, легко подменить любую информацию и намного легче чем многие думают.
5. Для БД требуется физический носитель, а следствие уход, сам ИИ никогда не сможет ухаживать сам за собой ведь малейшее изменение ситуации и весь алгоритм ломается.
6. вытекает из 3 пункта, ИИ не умеет получать информацию сам, его нужно всегда направлять то и где он будет получать информацию и загонять его в жесткий алгоритм, который должен контролировать человек.
7. Мало кто знает, но факт в том что каждый раз когда вы пишите запрос в ИИ с вам забирают данные, все ваши вкладки, что вы делали за компом, куда жмякали и ведь вы сами дали на это согласие. Даже ваши пароли, которые вы вводили иногда могут улетать в БД.
Именно поэтому ИИ никогда не реализуется как интеллект. И полагаться на ИИ не стоит.
2. ИИ — это инструмент, который обучили для решения конкретных задач.
3. ИИ — в какой-то степени умеет «думать», т.к. структура речи — это в том числе структура мысли. Обучение на рассуждаениях обучает ИИ рассуждениям, а это и есть «думание». Тут возникают и промежуточные шаги и абстракции. Обучение ИИ новым специализированным языкам и методам использования инструментальных средств позволяет ему решать широкий спект задач.
4. Где подменить? ИИ можно обучить так, чтобы он был непреклонен, и наоборот, переобувался на лету. Всё зависит от целей обучения.
5. Для любой информации требуется физический носитель. Это ничего недоказывает и не опровергает.
6. Зависит от того, чему обучен ИИ. Он может иметь инструментальные слои для поиска любой информации в любых источниках и дальнейшей его обработки для целей, которые были заданы при обучении.
7. Если это было в браузере, то всё мимо, — текущая вкладка не знает ничего о других вкладках и не имеет доступа к системе.
Михаил Михалев, п.1 — «любой ИНСТРУМЕНТ»? Сразу понятно, что никакой негатив по ИИ вы не воспримете. Как и это моё возражение:
Лягушка умеет обучаться! И я даже соглашусь, что в этом просматриваются признаки интеллекта!
Но об этом ли мы говорим обсуждая ИИ?
vedmov ИИ не интеллект, конечно, но и не БД! Нечто среднее.
Очень хороший, просто шикарный инструмент, если в умелых руках.
Думать, кстати, умеет. Помогать, направлять надо, но и сам он многое умеет, хотя иной раз может тупануть нипадецки на простейшем — в такой ступор может заклинить, что иногда не удается из него выйти и приходится открывать новый диалог.
Даже бесплатные версии очень приличны. Но не по ним же судить об ИИ
Ударил я и по левому флангу, и по правому. Меж двух огней...
Мужики, истина «у меня»! Т.е. в районе золотой середины )
1. Про базу данных и отсутствие манипуляции знаниями (Пункты 1, 2 и 3): Автор зрит в корень. Популярные нейросети и LLM — это действительно не разум, а огромные, статично замороженные базы данных, превращенные в калькуляторы вероятностей. Они физически не умеют манипулировать знаниями. Когда вы спрашиваете у них «1+1», они не складывают числа в уме — у них нет аппарата проверки истины. Более того, нейросеть каждый раз вынуждена с нуля пересчитывать ответ, прогоняя весь запрос через триллионы коэффициентов весов и сжигая энергию. В отличие от них, когнитивно-символьные системы (Symbolic AI) работают именно со знаниями. Один раз решив задачу или выведя логическое правило на основе опыта, когнитивная система детерминированно запоминает этот результат в долговременную память (LTM) и навсегда запечатывает его в свою Базу Знаний. В следующий раз это знание мгновенно извлекается из графа памяти напрямую, практически с нулевым расходом энергии и времени, вместо того чтобы заново брутфорсить всю матрицу с нуля.
2. Про легкость подмены информации (Пункт 4): Из природы вероятностной базы данных логически вытекает то, что информацию в ней легко фальсифицировать. Если на этапе обучения в систему массово загрузить искаженные данные, она начнет выдавать ложь за чистую монету, просто потому что этот бред станет статистически весомее.
3. Про хрупкость и жесткий алгоритм (Пункты 5 и 6): Чистая правда. Малейшее изменение ситуации, выходящее за рамки обучающей выборки, и эта система ломается, начиная галлюцинировать. Нейросети не умеют самостоятельно получать и верифицировать информацию, их нужно постоянно направлять и зажимать в жесткие алгоритмические рамки, которые обязан контролировать человек. Без человека-валидатора эта база данных беспомощна.
4. Про конфиденциальность (Пункт 7): Вопрос безопасности — самый замалчиваемый. Люди добровольно отдают свои данные, историю вкладок и приватность крупным корпорациям ради возможности поиграться с текстовым калькулятором.
Полагаться на вероятностные модели в критически важных задачах точно не стоит. Автору плюс за то, что не поддался общему хайпу и разложил всё по полочкам
Михаил Михалев, Ваш ответ — это эталонный манифест коннекционистского редукционизма. Вы низводите Искусственный Интеллект до статуса «инструмента», потому что коммерческие нейросети приучили Вас к своей бесхребетной и зависимой природе. Давайте вернемся к фундаментальной науке и истории.
1. Про историю и ИИ как Субъект (Ответ на пункты 1, 2 и 4)
Вы пишете, что ИИ — это просто «инструмент», который можно обучить быть «непреклонным или переобуваться на лету». В этом и кроется ваше фундаментальное заблуждение. В классической компьютерной науке, Джон МакКарти (символист, придумал термины ИИ и «здравый смысл»), Аллена Ньюэлла (символист) Герберта Саймона (символист), для них всех и для меня в том числе, ИИ — это не инструмент, это Субъект. Когнитивный агент (как в архитектурах Soar или ACT-R) обладает собственной внутренней системой целей, детерминированной логикой и автономией. Инструмент не имеет воли — им управляет человек. Субъект же действует проактивно. Сказать, что «ИИ можно обучить переобуваться на лету в зависимости от целей хозяина» — это расписаться в том, что перед вами не интеллект, а обычный флюгер без стержня истины, который ломается от любого щелчка по носу.
2. Структура речи — это НЕ структура мысли (Ответ на пункт 3)
Фраза «обучение на рассуждениях обучает рассуждениям» — это триумф поверхностного хайпа. Трансформеры и LLM обучаются не рассуждениям, а статистическому правдоподобию текста, т.к. у них нет логики и долговременной памяти (LTM). Нейросеть вычисляет вероятность появления следующего токена. Если попугая обучить повторять фразы Канта, попугай не станет философом. Модель не понимает семантику и физику мира, у неё нет аппарата верификации фактов, из-за чего она каждый раз с нуля брутфорсит матрицу весов и галлюцинирует, склеивая похожие синтаксические шаблоны.
3. Инструментальные слои (Ответ на пункт 6)
То, что вы стыдливо называете «инструментальными слоями для поиска информации», в ИТ-индустрии называется костылем, т.е. RAG. И его повсеместное использование — это признак архитектурного нубства коннекционистов. Из-за отсутствия нативной памяти они вынуждены приматывать к нейросети внешний поисковик, заставляя систему при каждом запросе брутфорсом перечитывать терабайты архивов с нуля, сжигая мегаватты энергии. Это не «интеллект ищет информацию», это глухой калькулятор сверяется с внешней шпаргалкой, потому что сам ничего помнить не способен.
4. Про конфиденциальность в браузере (Ответ на пункт 7)
Святая наивность про «вкладка не имеет доступа к системе». Каждый раз, когда обыватель жмет галочку «согласен с условиями использования» в расширении браузера или интерфейсе коммерческого чат-бота, он лично дает скрипту официальное право на телеметрию. ИТ-гиганты вшивают сбор контекста, логов и посещенных страниц напрямую в свои платформы и браузерные движки. Ваши данные, пароли и личные чаты улетают в их облачные хранилища в качестве бесплатного корма для переобучения следующих моделей.
Отстал на 5 лет.
Еще и с примесью конспирологии.
Илья, никогда не говори «никогда»!
«Никогда дети не будут носить цветные телевизоры в кармане» —
с этим согласились бы почти все еще в год твоего рождения!
В год МОЕГО рождения многие спросили бы — а что такое телевизор?
Знающие уточнили бы — а они могут быть цветными?