Информация
Блог им. Replikant_mih
LLM, AI, AGI.
- 25 мая 2024, 19:55
- |
Сознательная часть мозга делает свою работу, но и бессознательная не спит. И она у меня генерировала… опасения на тему AI и будущего, ближайшего и не очень. Сделал некоторый заныр по некотором веткам этой тематики, чтобы получить для себя ответы на некоторые вопросы, в частности в разрезе конкретных рисков и опасений. Немножко причесал представление по этой теме.
Ну что, если будущее ещё не наступило, то уже явно подступает.
Многое из того, что мы читали в фантастических книжках уже за окном или скоро будет.
Что например:
— Разговаривать с костюмом, машиной, компьютером, чем угодно.
— Говорить компьютеру: найди мне то, обобщи мне это, а помнишь, а как ты думаешь, а приблизь картинку и т.д.
— Более мощный AI (а-ля AGI) – тоже не выглядит чем-то далёким.
— Роботы уже прыгают, ходят очень бодро, мелкая моторика уже тоже вполне ух, LLM к ним уже тоже прикручивают, в том числе мультимодальные, это все постепенно становится лучше, в какой-то момент покажут что-то прорывное, каким был в свое время айфон, например. И всё, роботы будут ходить ко квартире, потом по улицам и т.д. И робот с LLM это не просто что-то железное ловко двигающееся, это что-то железное ловко двигающееся и жутко умное (ну по крайней мере если оно подключено к серверной LLM, если локальное – чуть менее умное, но с миниатюризацией техпроцессов – всё более умное даже на локальных моделях).
— Ах да, транспорт без водителя.
— Автоматизация процессов, ранее затруднительных для автоматизации. Считай там, где нечеткая логика, а это все остальные, которые ещё не автоматизировались до этого.
— Автоматизация ранее не автоматизируемого это продолжение ускорение прогресса.
— Специализированные модели, не универсальные LLM, а специализирующиеся на сложных процессах – например, проектирование чипов, которые превосходят людей по скорости и вероятно уже или скоро по качеству.
— В целом ускорение технического прогресса, более быстрые космические двигатели и лучшие технологии, заселение планет солнечной системы и выход за ну и т.д.
Ну а теперь к опосредованным пунктам, эти тоже в фантастических книжках мы видели:
— Потеря работы из-за скачка в AI и робототехнике – сначала кем-то, потом всё большим числом людей и т.д. Роботы и AI будут делать это сначала дешевле, потом дешевле и лучше. Да-да, вымываются одни профессии, создаются другие, эта история не будет бесконечной здесь, достаточно включить логику и немного поразмышлять. Т.е. в какой-то момент работу потеряют большинство людей.
— Компании, которые бенефитят от всей этой замены людей на алгоритмы и роботов разрастутся до невиданных масштабов (уже масштабы вполне себе ого-го). Вся та ценность, стоимость, как хотите, которая распределялась и на работников – она уйдет компаниям. В киберпанке компании заправляют. Как минимум предпосылки для этого будут, дальше дело за государством.
— Смена парадигмы сосуществования людей, парадигмы экономики. Повезет если просто введут безусловный базовый доход, достаточный для жизни. Очень богатые корпорации платят государству, которое по прежнему альфа, государство платит гражданам. Но как минимум все будет очень по разному в разных странах. Если это страна, в которой много таких компаний и они крупные – тогда гражданам такой страны будет хорошо, а если ты гражданин не такой страны? А если ты гражданин страны где о гражданах пекутся для галочки или процветает коррупция. Много вопросиков.
— Ну и т.д.
Ну вещи про «никто не работает потому что твой труд никому уже не нужен» это не про сегодня и почти не про завтра. А что на меньшем горизонте. Надо ли как-то готовиться, можно ли/нужно ли делать что-то уже сейчас?
— Капитал. Капитал решает и, думаю, будет решать. Не хочешь бояться: а будет ли безусловный базовый доход, а хватит ли его, а в нужной ли я стране буду на этот момент и т.д. – заработай капитал, тебя будет кормить он.
— Если когда-то ML тебя и заменит, то пока он тебя может улучшить – помощник – вся это концепция копайлотов. Надо извлекать из этого пользу, это leverage, способ обойти на повороте менее расторопных, более инертных.
— Делать стратегически правильные акценты. Очевидно, что сдвиги парадигмальные, из-за этого многое серьезно переопределится в будущем из-за этого. Поэтому желательно осознать это уже сейчас и спрогнозировать все эти сдвиги. И правильно расставить акценты в вопросах типа: что учить, куда усилия вкладывать, во что инвестировать, где жить и т.д.
Не скажу, что тревога за будущее пропала. Скорее осознал, что будет мощный сдвиг, осознал, что есть риски, которыми не могу особо управлять. Но в то же время и осознал рычаги, которые есть конкретно у меня (они есть у всех, но осознал я их применительно к себе, конечно).
Так что двигаемся дальше.
теги блога Replikant_mih
- algo
- ChatGPT
- CL
- data mining
- esignal
- intraday
- llm
- Machine Learning
- ML
- Multicharts
- Quik
- research
- S#
- S#.Designer
- stocks
- stocks in play
- TradingView
- wealth-lab
- активы
- акции
- алгоритмическая торговля
- алгоритмический трейдер
- алгоритмический трейдинг
- алготрейдер
- алготрейдинг
- алерт
- анализ
- будущее
- бэктестинг
- гармония
- грааль
- График
- гуру
- диверсификация
- жить с рынка
- жить с трейдинга
- закономерности
- инвестиции
- индикаторы
- интрадей
- Интуитивная торговля
- искусственный интеллект
- Истина
- итоги 2017
- кодинг
- коронавирус
- кризис
- Кризис 2020
- Кургузкин
- мартингейл
- машинное обучение
- море
- налоги
- настроение толпы
- НЛП
- обвал
- околорынок
- опрос
- Оптимизация
- отдых
- Открытие брокер
- оффтоп
- Ошибки трейдера
- падение
- паника
- пирамидинг
- плечи
- поиск идей
- портфель стратегий
- преодоление
- прогнозы
- психология
- рефлексия
- роботы
- ручная торговля
- Рынок
- системная торговля
- системный трейдинг
- системостроение
- случайности
- смартлаб
- спекуляции
- стакан
- статистика
- технический анализ
- тильт
- торговые роботы
- торговый софт
- трейдер
- трейдинг
- тренд
- успех
- фундаментальный анализ
- фьючерсы
- цена
- человечество
- эквити
- эмоции
- эмоции в трейдинге
- яма
А так, ну, у меня задача стратегически по полочкам разложить и стратегический план действий выработать. Это стратегический настрой. А дальше уже локальное настроение. Захочется философски поразмышлять о судьбе человечества — можно включить какого-нибудь Ghost in the Shell. Но специально на чем-то негативном концентрироваться так себе стратегия).
Ну а вообще да, тоже можно было в пост такой пункт написать, не вспомнил просто — чипы, импланты — роботизированные руки, глаза, чипы в мозг — тоже уже начинают. Подрубить к этому AI тоже не выглядит уже чем-то нереальным.
Дмитрий Овчинников,
> Фильм Апгрейд и тревога вернется.
Ну я впечатления от фильма особо не помню, от этого скорее отталкивался). Хорошее дело браком не назовут. Не негатив тревогу не вызывает).
на тему AI все фильмы вызывают тревогу, если они не из страны «розовых пони».
Матрица
Мир Дикого Запада
В поле зрения
что еще?
Дмитрий Овчинников, Да-да, в основном так. Из совсем классики Терминаторы ещё).
Надеюсь это отыграет не как самосбывающийся прогноз, а как: мы осознаем риски, давайте заранее продумаем, подстрахуемся.
уже знает больше меня.
языков больше меня в 20 раз.
языков программирования в 10 раз.
знаний в различных отраслях знаний в 10-100 раз.
фактов о мире и событиях в 100-1000 раз.
код пишет и отвечает на текст в 10-100 раз быстрее меня.
она уже умнее меня.
а есть еще корпоративные на серверах корпораций.
там еще x10-x100 к моей локально поставленной.
человечества считайте уже и нет.
прямо из коробки.
Continue или Privy в vscode
из-за того что vscode имеет доступ к файлам и командам тоже имеет доступ.
Антон Б, Ага, круто, посмотрю, хотя PyCharm юзаю, но тоже наверно что-то есть для опенсорсных моделей похожее.
А если например шире, ну вот у меня есть список торговых идей. Хочу уметь в них копаться через окно LLM, я конечно могу их тоже в проект сложить. Ну а если вообще что-то левое не трейдерское не кодерское. Все же в проект не положишь? Тоже хочется под это какой-то отдельный тул.
Кстати по какой причине юзаешь локальную модель? — Безопасность, издержки?
взять задачу и распределить на список, и потом по списку выполнить это тоже задача.
плюс на работе или на войне, или на службе — задача наперед задана.
люди не ставят себе задачи на работе, или на войне — а решают ЧУЖИЕ поставленные задачи.
ровно как llm
А задачи — взять задачу и распределить на список, и потом по списку выполнить — вы перед ней не ставите? Как программа до этого доходит?
программа, конечно заменит во многих сферах.
Например, я работаю с программистами и вижу, что большая часть из них не умеет даже задать уточняющие вопросы о техзадании (или не хочет), ну чисто программа.
Но, в состоянии ли программа придумать нечто новое? Обобщить частности и сделать на их основе вывод о наличии чего-то, о чём она не знает, но, тем не менее, это с большой долей вероятности существует?
программист получает зарплату за написанный код по тз.
за анализ предметной области программист получит как правило проблемы на работе — за то что лезет туда за что ему не платят.
работ где от работника ожидают прямо что-то новое нет.
в принципе нет.
есть какие-то научные сотрудники но там тоже про документооборот.
ну может 0.01% рабочих мест где за это платят и иначе уволят.
не существенно.
и это 90% безработных.
но я не о программистах — их зацепит последними.
так как они могильщики цивилизации.
пример вот как сейчас работает ит и знания внутри ит а снаружи физическая работа.
Краснодар
без ВО:
доставщики 80-120
грузчики фасовшики 80-100
водители экспедиторы 120-180
с ВО
врач с ВО 40-60
офицер полиции с ВО 60-80
инженер технологи 40-80
инженер техники безопасности 30-50
учитель 40-60
преподаватель в ГОС УНИВЕРЕ ВО+кандидатская 40-80
экономист — бухгалтер с ВО 40-70
это результат внедрения ИТ — квалификация переходит в ИТ системы.
а ллм модель это просто следующий шаг.
знания массовые специальности стоят примерно 0 на рынке труда.
и их по тому никто не будет получать.
Ценность человека в том, что он может принять или увидеть решение, выходящее за рамки стандартных ситуаций. Когда от человека остается только функция — да, можно думать об оптимизации.
Но вы так и не ответили на мой вопрос — это действительно интеллект, который может принимать самостоятельные решения, хотя бы на уровне голубя, или всё же «искусственный интеллект» всего лишь маркетинговый ход?
и на 80%-95% в работе оператора.
не важно интеллект это или имитация — работает лучше людей и дешевле людей 24x7 без отпуска и без взрыков отпусков болезней.
Мой вопрос просто про другое изначально был. Вы по сути подтвердили, что я, на данный момент, прав.
то прочитайте овцы съели людей
dzen.ru/a/X7WZDlQVhVZs4XQ9
Я просто считаю, что это инструмент, как станок, который отнял много рабочих мест в своё время.
P.S. Думал, что по ссылке будет подробная статья, с цифрами, — от огораживания до луддитов, — а там пересказ пары абзацев из учебника )
Тема реально интересная, но я сколько не читаю обсуждений, на уровне обывателя конечно, сколько не сталкиваюсь с различными вариациями разных доступных программ, называемых ИИ — вижу просто инструмент, а не субъект.
КриптоУлитка,
Ну, конечно, это не что-то что может «восстать» или типа того, но что с того. Мыслить оно уже может, принимать решения оно может, прикрутите рычаги — оно может мыслить -> принимать решения -> воплощать решения.
Что такое субъёкт? Это уже философия пошла, абстракция.
А псевдо-ИИ пока не обладает субъектностью, только той, что в него заложил инженер (пусть даже рамки весьма широки).
Вы пишете — оно может мыслить — что это значит? Можно простой доступный пример?
КриптоУлитка, Пример про мыслить… ну, модель умеет обобщать, видеть закономерности и прочие когнитивные штуки.
По поводу субъектности, объектности.
Достаточно немного декомпозировать человека и станет намного легче сравнивать.
По сути человек это что? Это некий мозг, который получает на вход информацию, и на выходе дергает за какие-то рычажки — ручки, ножки, речь и т.д. В процессе обработки информации проходят всякие когнитивные движухи — обобщения, поиск закономерностей, упрощение, дедукция индукция, поиск знакомых паттернов и т.д.
У человека есть мета-программы, некие высокоуровневые ориентиры — это его ценности, его убеждения и т.д., ну и цели конечно.
Далее: человек по сути принимает решения в каждый момент времени: щас я почитаю, щас я продолжаю читать, щас я продолжаяю читать, щас я включу телевизор, щас я продолжаю смотреть, продолжаю смотреть и т.д. По сути бесконечный цикл.
Ну и всё. Модель в бесконечный цикл «подал информацию — получил ответ» можно? — Изи. Задать базовые вводные (как у человека ценности, убеждения, цели) можно? — Можно, изи, на человеческом языке причем. Всё. Модель будет двигаться в сторону цели. На каждом шаге принимая решения. Может быть, может быть нужно реализовать некий механизм саморефлексии. Ну и всё.
Поэтому человек может отказаться от выгодного пути, если для этого нужно поступиться убеждениями.
И эмпатии. Грубо говоря, человек, может уступить место в автобусе или остановиться помочь плачущему ребенку. А что насчет программы, если она, конечно специально не заточена для таких действий?
Условный интеллектуальный кондуктор в автобусе, подскажет, что надо уступить место вон тому человеку, если инженеры не заложат этот блок в его программу?
Вот это, кстати не каждый человек легко умеет делать, поэтому, сложно на основании этого судить о том, что у программы есть интеллект.
Как раз это и есть особенность программ, имхо. Они быстрее, поэтому могут перебрать число вариантов и найти мельчайшие закономерности там, где человек будет делать долго или не сделает этого вовсе.
Интеллект не может быть без воображения.
КриптоУлитка,
>> Поэтому человек может отказаться от выгодного пути, если для этого нужно поступиться убеждениями.
Всё-таки вы переоцениваете человека). Тут нужно больше понимания как устроены психические процессы человека.
Есть программы осознаваемые, есть неосознаваемые и неосознанные. Если человек в какой-то момент времени действует неосознанно, это не значит, что у него нет программы.
Отказаться от выгодного пути, пусть для этого нужно поступиться убеждениями — это не что-то данное свыше / венец творения — это приоритет программ, ценностей и т.д. Если человек в этом примере отказывается от выгодного пути, это все лишь значит, что в его иерархии ценностей следовать принципам стоит выше, чем материальная выгода и всё. Если сильно выше — ему не сложно будет делать выбор, если сильно — его поломает немного.
>> если инженеры не заложат этот блок в его программу
Ну, люди тоже не из космоса с программами телепортируются — есть генетические программы, но остальная часть — социальные, если ты из племени, то у тебя и не будет программы бабушкам в автобусе место уступать, ты тупо можешь не знать, что есть автобус даже и чего кого. Но ты будешь абсолютно человеком. Тут какраз у ИИ нет проблем — они же на датасетах человеков учились)), так что вполне себе понимают чем мы дышим.
Плачущий одинокий ребёнок на пустой улице? Человек из какого племени пройдёт мимо, не поинтересовавшись, почему он плачет?
Что сделает программа?
Хм. Вы сводите всё к какому-то фатуму. Я не оспариваю всю сложность т.н. программ, про которые вы пишете, я понимаю, что бытие определяет сознание, но человек может выйти за их рамки. И человек может предложить новое, парадоксальное решение для старой проблемы.
Если бы всё определялось рамками и программами генетики и социума, мы бы до сих пор считали, что Солнце вращается вокруг Земли, да и колеса бы не знали.
Я допускаю возможность, что когда-то и компьютер сможет выйти за рамки программы — вот тогда, можно будет сказать, что это ИИ. Пока что это продвинутый калькулятор.
там ии пришла на сайт фриланса и заказала БЕСПЛАТНО как тестовый пример!!! обработку капчи у человека на человека.
обошла капчу социальным хаком.
рассказав что у нее проблемы со зрением.....
т.е., это пример хайповой задачи, которую программа успешно, скорее всего, выполнила
Все в точку!
Должно появится еще, что-то неожиданное, о чем никто не предполагал и не думал.
Завидую я молодежи...
DV_13, Спасибо).
Да, крутого, неожиданного, интересного появится ещё много. Надеюсь, человечество по хорошей дорожке пойдёт в будущее).
аи уже позволяет +40% к производительности человека — программиста.
и пр.
а это 40% безработица.
и он не остановится будет все лучше и лучше.
замещать людей.
не целиком а на 80% всего труда заменит = и 80% безработных
>> думаю что для человечества уже все закончилась.
Закончилось в смысле в негативном смысле?)) Или закончилось время когда нужно впахивать и теперь ренессанс, можно играть в гольф, заниматься философией и творчеством в свое удовольствие?)
Replikant_mih, государству люди не нужны.
будут вот такие государства основанные на ии и роботехнике.
государства-корпорации монополизирующие насилие с помощью роботехники.
А не с помощью людей, как сейчас.
новые государства, либо старые обновятся.
это не важно.
первые ласточки это дроны.
насколько они дешевле и эффективнее людей на поле боя.
а раз обновленному на новых технологиях государству люди будут не нужны, то и людей не будет.
вот как государству нужны были лошади — была конница.
потом технологии сделали конницу не нужной — и вот лошадей менее 1% от того что было 100 лет назад.
вот люди это такие лошади для государств.
пока технологии не позволяли обходится без людей — людей было много нужно.
теперь нет.
Антон Б, Да, у меня тоже была мысль, что мораль и все подобное ничто, если стратегически люди будут не нужны, мораль «поправят», обойдут или ещё как-то. Но вот в новой экономике товары же все равно должен кто-то потреблять. Это люди, т.е. люди всё-таки нужны? Сложно мыслительно выпрыгнуть из коробки текущих представлений о принципах экономики.
В принципе если вот ты такой товарищ при власти, ресурсах, роботах, AI, ресурсы, роботы, AI могут покрывать все твои потребности, тебе деньги от людей и не нужны, поэтому и люди не нужны, кроме каких-то твоих амбиций, где нужны именно люди. Ну типа: должны быть эти миллиарды людей, чтобы я ощущал что я круче миллиардов людей, а-то ну я один крутой, ну и что с того. Так что у людей есть надежда)).
основная функция характеризующая государство это монополие на насилие.
если можно будет там людей массово заменить на роботов.
то люди в таком количестве будут просто убраны как бесполезное население.
примеры из прошлого:
овцы съели людей.
dzen.ru/a/X7WZDlQVhVZs4XQ9
а еще как цари, а потом ленин, а потом сталин.
сначала вывозили зерно за золото — в первую очередь.
а потом запрещали печатать слово голод вместо него «недород»
dzen.ru/a/ZLUBulSr4FDY7Vy5
Прошлым летом попалась мне старая американская фантастика 50-х-70-х.
И чего только у них не было! Летали сверх скорости света, взрывали планеты… А записывающие устройства типа магнитофона размером с чемодан.
К сожалению некоторая фантастика из-за подобных вещей может выглядеть неестественно, ну т.е. такой прикол с магнитофоном может ломать погружение. Поэтому надо (наверно) либо читать посвежее, которое отталкивается относительно от свежих достижений прогресса и не противоречит им, либо как-то абстрагировать. Ну и есть вещи вне времени).
Этой тачке скоро 20 лет будет. Но такси по прежнему водят живые люди. А кладовщики в Амазоне по прежнему ссут в бутылочку, чтобы не получить штраф за непродуктивность в сортировке коробочек.
Вся эта курцвейловщина еще старше. Особенно про андроидов, бродящих по улице. Только бумеры поймут, что это сейчас не про OS для мобилок было.
Что реально можно было почерпнуть из фантастических книжек — большинство из описанного там со временем только удаляется. С Жюль Верна надо было начинать читать фантастику )
Чат-бот может неплохо говорить на дцати языках, но он не понимает суть сказанного, прямо как гуманитарий. Пограммисты никуда не денутся, они продолжат сооружать дендрофекальные башни, вооружившись новыми костылями. Объем башен будет больше, а вот высота (функциональность) — не факт. Есть зависимость между предельным углом конуса и твердостью материала, меньше палок/больше говна — тупее пирамида.
Иван-дурак, 20 лет назад это уже как-то ездило по дорогам и энтузиасты вроде тебя пророчили скорую революцию. Даже не через 5, а через 3 года. С тех пор его пилят всеми ресурсами Гугла, и пока результаты бесполезны — либо SAE 3 (держи руки у руля или сам дурак) либо 4-5 на специальных территориях (хорошо хоть без рельсов).
В чем разница между «уже готовы» и вопросами надежности и безопасности? Рыночная ниша «жить быстро умереть молодым» уже плотно занята продавцами мотоциклов.
www.youtube.com/watch?v=DonRDB3H1Gs
Что такое нейросети с миллиардами нейронов, тогда даже никто представить не мог.
Вопрос простой. Ехать автомобиль может, но никто не знает где случится отказ + нет никой законодательной базы. Мерседес недавно начали продавать авто, где водитель не обязан следить, при выполнении определённых дорожных условий и скорости.
Кстати, из новых книжек «Задача трех тел» прочитал недавно. Очень понравилось, рекомендую.
Интересно написана, отличное научно-популярное описание астрофизики, радиоастрономии, нелинейной динамики и много чего другого. Удивительно, что я пересекался по жизни с некоторыми историческими персонажами из книги. Неисповедимы пути ...
Ну и я сделал вывод, в конце, что бабы во всём виноваты =)
В пессимистичном варианте — интересным описанием будущего являются «Первому игроку приготовиться» и «Голодные игры».
Но, вообще — верю в лучшее.
ignat, Есть и у меня такие вопросы)).
Тут с одной стороны в рассуждения государство это 3-й участник (наряду с капиталом и людьми). Некий такой мудрый, объективный, человеколюбивый. Если гос-во срастется с капиталом — пиши пропало.
Но пока всё что происходит — больше похоже на целенаправленную попытку сократить популяцию.