Список проголосовавших за комментарий "Продолжение после падения сайта.<br/> <br/> <blockquote>Привидите, например, пример предметной области или вопроса, области принятия решений где критическое мышление важно и где нейросеть типа не зарешает. Без этого звучит голословно.</blockquote><br/> Replikant_mih, Эксперимент — не голословно?<br/> <br/> Коричневым — мой вопрос ChatGPT, синим — ответы.<br/> Там можно перегенерировать ответы много раз.<br/> Каждый раз ответы разные, потому что сеть вероятностная.<br/> <br/> <span style="color:#993300;">Реши задачу: девять осликов за три дня съедают 27 мешков корма. Сколько надо пяти осликам за 5 дней?</span><br/> <br/> Первая попытка:<br/> <br/> <span style="color:#0000ff;">Девять осликов за три дня съедают 27 мешков корма. Таким образом, один ослик съедает 1 мешок корма за 3 дня, то есть 1/3 мешка корма за день. Значит, 9 осликов съедят 9 * 1/3 = 3 мешка корма за день.</span><p><span style="color:#0000ff;">Чтобы определить, сколько пяти осликам нужно корма за 5 дней, нужно использовать пропорцию:</span></p><p><span style="color:#0000ff;">9 осликов: 3 мешка корма в день :: 5 дней: х мешков корма в день</span></p><p><span style="color:#0000ff;">где х — количество мешков корма, которое пятеро осликов съедят в день.</span></p><p><span style="color:#0000ff;">Чтобы найти значение х, можно упростить эту пропорцию, умножив 9 на 5 и деля на 3:</span></p><p><span style="color:#0000ff;">(9 * 5) / 3 = 15 мешков корма в день</span></p><p><span style="color:#0000ff;">Таким образом, пятеро осликов съедят 15 * 1/5 = 3 мешка корма в день. Значит, им нужно 3 * 5 = 15 мешков корма за 5 дней. Ответ: пятеро осликов нужно 15 мешков корма за 5 дней.</span><br/> <br/> Вторая попытка:<br/> <br/> <span style="color:#0000ff;">Девять осликов съедают 27 мешков корма за 3 дня, то есть они съедают 9 мешков корма в день. Чтобы найти, сколько нужно корма для пяти осликов за 5 дней, нужно узнать, сколько корма съедают пять осликов в день.</span></p><p><span style="color:#0000ff;">Если девять осликов съедают 9 мешков корма в день, то один ослик съедает одну девятую часть этого количества, то есть один мешок корма за 9 дней. Тогда пять осликов съедают пять мешков корма в день (5/9 мешков корма за один ослик в день).</span></p><p><span style="color:#0000ff;">За 5 дней пять осликов съедят 5*5=25 мешков корма.</span></p><p><span style="color:#0000ff;">Ответ: Пяти осликам нужно 25 мешков корма за 5 дней.</span><br/> <br/> Третья попытка:<br/> <br/> <span style="color:#0000ff;">Девять осликов за три дня съедают 27 мешков корма. Это значит, что один ослик съедает один мешок корма за 3 * 9 = 27 дней. Таким образом, один ослик съедает один мешок корма за 27 дней / 9 осликов = 3 дня.</span></p><p><span style="color:#0000ff;">Пяти осликам требуется столько же корма, сколько и девяти осликам за тот же период времени, то есть 27 мешков.</span></p><p><span style="color:#0000ff;">Однако, время, необходимое пяти осликам, чтобы съесть 27 мешков корма, будет дольше, чем три дня. Чтобы вычислить это время, мы можем использовать обратную пропорцию:</span></p><p><span style="color:#0000ff;">9 осликов * 3 дня = 27 мешков корма 5 осликов * X дней = 27 мешков корма</span></p><p><span style="color:#0000ff;">Решив эту пропорцию, мы найдем время, необходимое пяти осликам для того, чтобы съесть 27 мешков корма:</span></p><p><span style="color:#0000ff;">X = (27 мешков корма * 3 дня) / (9 осликов * 5) = 1,8 дня</span></p><p><span style="color:#0000ff;">Таким образом, пяти осликам потребуется 1,8 дня, чтобы съесть 27 мешков корма.</span><br/> <br/> Особенно «радует» третья попытка, где, мало того, что отвечено неправильно, и отвеченное прямо противоречит условию задачи, так ещё и отвечено не на тот вопрос.<br/> <br/> Кстати, есть ли среди трёх попыток правильное решение, и если есть, то в какой? <img smile="biggrin"/><br/> <br/> Видите, насколько «велико» критическое мышление у модели?<br/> <br/> Как вам такой «очень самокритичный» логический ход: "<span style="color:#0000ff;">Пяти осликам требуется столько же корма, сколько и девяти осликам за тот же период времени</span>"?<br/> <br/> Нормальный человек сразу «почувствует» что-то не то и скажет: «Чего?».<br/> А сеть — видите, что говорит.<br/> <br/> </p><blockquote>модель, которая «понимает» язык и уделывает людей в разных дисциплинах.</blockquote><p><br/> Кого, вы говорите, модель уделывает после решений задачи выше? <img smile="biggrin"/></p><blockquote>Опять некий «догматик» и совершенно не понятно, что конкретно под этим понимаетя конкретно здесь.</blockquote><br/> Надеюсь, приведённый пример вносит некоторую ясность.<br/> <br/> <blockquote>Переквалификация в задавателя вопросов нейросети и интерпретатора ответов. Ок, да. Но если нейросети продолжат прогрессировать, в кого произойдет переквалификация? В кого произойдет переквалификация когда уровень нейросетей позволит уверенно на них полагаться в, скажем, 95% предметных областей и областей принятия решений.</blockquote><br/> В вытаскивателя полезной информации и отсеивателя бреда.<br/> В какой-то степени, в ИИ-психолога.<br/> <br/> Как вы можете видеть по приведённому выше примеру, даже подправленная и усовершенствованная сеть может легко забредить на уровне задачи для школьника начальной школы. Под забредить я понимаю ответить вообще не на тот вопрос.<br/> <br/> <blockquote>У нас есть нейросеть, которая понимает язык, которая имеет доступ ко всей базе знаний — окей, она мегаэрудит. У нас есть модели, которые могут обучаться «тихо сам с собой» — Reinforcement learning. Если нафигачить комбинаций этих нейросетей или имплементировать в одну элементы другой, дать доступ не только к интернету, но и к реальному миру, доступ к элементам управления — вот нейросеть уже и моделировать сможет и эксперименты проводить, а это уже совершенно другой доступ к знаниям, возможность рождать новые и вуаля — нету никаких «ограничений архитектуры».</blockquote><br/> Как вы лихо обошли, не заметив, множество деталей.<br/> И не спрашивайте, каких, я сам не знаю даже, сколько их.<br/> Но что они есть, и в большом количестве, известно из опыта.<br/> А вы сразу выводы сделали. В реальности всё будет не так.<br/> <br/> <blockquote>Если у нейросети есть доступ к написанию кода и соответствующая задача — она уже может и более продвинутую архитектуру придумать. Так что все эти ограничения архитектуры — больше так чтоб себя успокоить отговорка).</blockquote><br/> У вас чрезвычайно упрощённый взгляд, который закономерно приводит к в корне неверным выводам.<br/> <br/> Взгляните ещё раз на три попытки сети решить задачу начальной школы.<br/> Всё ещё страшно, или уже можно немного успокоиться?"