Список проголосовавших за комментарий "<blockquote><strong>ИИ-агент надежен там, где истина формализуема и быстро проверяема. Агент слаб там, где истина дрейфует, зависит от контекста, меняется во времени или требует эмпирической проверки.</strong></blockquote>Именно. Речь даже не об истине, а просто о человеческом знании (а оно в лучшем случае стремится к истине). Большая часть человеческих знаний не формализована, знание может даже не быть зафиксированным в языке, а ещё часто является внутренне противоречивым, не следующим законам логики. Есть просто невыразимые в языке и не формализуемые вещи, механики мышления, которые есть у людей на уровне их биологии, но которые нельзя описать внутри языка, потому что они являются внешними по отношению к языку, являются чем-то мета-.<br/> Если бы можно было просто создать в языке руководства по выполнению каких-то рабочих задач и эти руководства были бы внутренне непротиворечивы, полны и достаточны, то ещё до нейросетей это было бы сделано, потому что такие руководства позволили бы зафиксировать опыт и интуиции опытных сотрудников и заменить их новичками, которые просто работали бы по руководству."