КриптоУлитка, 

>> Поэтому человек может отказаться от выгодного пути, если для этого нужно поступиться убеждениями.

Всё-таки вы переоцениваете человека). Тут нужно больше понимания как устроены психические процессы человека.

Есть программы осознаваемые, есть неосознаваемые и неосознанные. Если человек в какой-то момент времени действует неосознанно, это не значит, что у него нет программы.

Отказаться от выгодного пути, пусть для этого нужно поступиться убеждениями — это не что-то данное свыше / венец творения — это приоритет программ, ценностей и т.д. Если человек в этом примере отказывается от выгодного пути, это все лишь значит, что в его иерархии ценностей следовать принципам стоит выше, чем материальная выгода и всё. Если сильно выше — ему не сложно будет делать выбор, если сильно — его поломает немного. 


>> если инженеры не заложат этот блок в его программу

Ну, люди тоже не из космоса с программами телепортируются — есть генетические программы, но остальная часть — социальные, если ты из племени, то у тебя и не будет программы бабушкам в автобусе место уступать, ты тупо можешь не знать, что есть автобус даже и чего кого. Но ты будешь абсолютно человеком. Тут какраз у ИИ нет проблем — они же на датасетах человеков учились)), так что вполне себе понимают чем мы дышим.

КриптоУлитка, Пример про мыслить… ну, модель умеет обобщать, видеть закономерности и прочие когнитивные штуки.

По поводу субъектности, объектности. 

Достаточно немного декомпозировать человека и станет намного легче сравнивать. 

По сути человек это что? Это некий мозг, который получает на вход информацию, и на выходе дергает за какие-то рычажки — ручки, ножки, речь и т.д. В процессе обработки информации проходят всякие когнитивные движухи — обобщения, поиск закономерностей, упрощение, дедукция индукция, поиск знакомых паттернов и т.д.
У человека есть мета-программы, некие высокоуровневые ориентиры — это его ценности, его убеждения и т.д., ну и цели конечно. 
Далее: человек по сути принимает решения в каждый момент времени: щас я почитаю, щас я продолжаю читать, щас я продолжаяю читать, щас я включу телевизор, щас я продолжаю смотреть, продолжаю смотреть и т.д. По сути бесконечный цикл.

Ну и всё. Модель в бесконечный цикл «подал информацию — получил ответ» можно? — Изи. Задать базовые вводные (как у человека ценности, убеждения, цели) можно? — Можно, изи, на человеческом языке причем. Всё. Модель будет двигаться в сторону цели. На каждом шаге принимая решения. Может быть, может быть нужно реализовать некий механизм саморефлексии. Ну и всё. 

КриптоУлитка, 

Ну, конечно, это не что-то что может «восстать» или типа того, но что с того. Мыслить оно уже может, принимать решения оно может, прикрутите рычаги — оно может мыслить -> принимать решения -> воплощать решения.

Что такое субъёкт? Это уже философия пошла, абстракция. 

ignat, Есть и у меня такие вопросы)). 

Тут с одной стороны в рассуждения государство это 3-й участник (наряду с капиталом и людьми). Некий такой мудрый, объективный, человеколюбивый. Если гос-во срастется с капиталом — пиши пропало. 

Антон Б, Да, у меня тоже была мысль, что мораль и все подобное ничто, если стратегически люди будут не нужны, мораль «поправят», обойдут или ещё как-то. Но вот в новой экономике товары же все равно должен кто-то потреблять. Это люди, т.е. люди всё-таки нужны? Сложно мыслительно выпрыгнуть из коробки текущих представлений о принципах экономики.

В принципе если вот ты такой товарищ при власти, ресурсах, роботах, AI, ресурсы, роботы, AI могут покрывать все твои потребности, тебе деньги от людей и не нужны, поэтому и люди не нужны, кроме каких-то твоих амбиций, где нужны именно люди. Ну типа: должны быть эти миллиарды людей, чтобы я ощущал что я круче миллиардов людей, а-то ну я один крутой, ну и что с того. Так что у людей есть надежда)).

Антон Б, Ага, круто, посмотрю, хотя PyCharm юзаю, но тоже наверно что-то есть для опенсорсных моделей похожее. 

А если например шире, ну вот у меня есть список торговых идей. Хочу уметь в них копаться через окно LLM, я конечно могу их тоже в проект сложить. Ну а если вообще что-то левое не трейдерское не кодерское. Все же в проект не положишь? Тоже хочется под это какой-то отдельный тул.

Кстати по какой причине юзаешь локальную модель? — Безопасность, издержки?

DV_13, Спасибо). 

Да, крутого, неожиданного, интересного появится ещё много. Надеюсь, человечество по хорошей дорожке пойдёт в будущее).

Дмитрий Овчинников, Да-да, в основном так. Из совсем классики Терминаторы ещё).

Надеюсь это отыграет не как самосбывающийся прогноз, а как: мы осознаем риски, давайте заранее продумаем, подстрахуемся.