Грядет AGI , и нам всем таки действительно хана

Космонавты летают в космос,
«Аполлоны» да Лайки всякие...
А в горячих точках планеты,
По-татарски крича непотребщину,
Меж собою дерутся чукчи
И смущают Европу этим,
А Европа торчит над нами,
А мы торчим друг над другом.

Александр Лаэртский. «Горнолыжники»

Я в последнее время погрузился в тему больших языковых моделей и нейронных сетей, и что то стало страшновато

Посмотрите последние презентации от майкрософт. 1 и 2. Выступление Альтмана (тогда еще) из OpenAI.  Оцените жидкие хлопки из аудитории, когда им рассказывают, как AI будет делать работу за всех сидящих в зале.
Это все реально – scary shit, такое ощущение, что смотришь сериал Black Mirror

Тут еще скандал в внезапным увольнением Сэма Альтмана, и сочные, годные теории заговора, которые за этим последовали. Говорят, они уже вырастили AGI в пробирке, но злой гений Альтман что то не так с ним сделал, и AGI вырвался на свободу и уже ползет к базам межконтинентальных ракет.

Вот вам мое предсказание: до конца 2024 года у нас будет AGI (Artificial General Intelligence). Может даже, до конца 2023.
Что такое Artificial General Intelligence? Это система, которая может делать большинство экономически значимых задач на уровне среднего человека или лучше.
То есть — создавать добавочную стоимость в экономике.
Мы живем в экономике знаний. Многие работники не делают руками ни-че-го. Они отвечают на звонки, продают что-то, разрабатывают программы и товары на компе, пишут тексты.
ВСЕХ этих работников сможет ЛЕХКО заменить AGI. Он будет работать быстрее, эффективнее, дешевле (практически бесплатно).
Для таких работ не надо рук. Вы даже не заметите, что теперь с вами по телефону говорит  AGI, а не человек.
Black Mirror наступит уже года через 3, добавим пару лет на повсеместное внедрение.
Без работы останутся куча народу. Правительствам срочно придется менять налоговую систему, вводить Минимальный Безусловный Доход, и т.д. НО – правительства двигаются медленно, а изменения будут происходить очень быстро. Так что, турбулентности не избежать.

“Ax, ChatGPT может только угадывать следующее слово во фразе, он не может ничего нового создать” – а вы уверены, что наш мозг сильно по-другому работает? Там в ChatGPT кстати сейчас такая мат модель наворочена, что по большому счету, он уже начинает показывать новые характеристики, когда количество токенов и сложность сети переходят в качество. Например, переводить с одного языка на другой лучше специализированных систем.

“Но ChatGPT не может быстро обучаться на новой информации” – во первых, есть RAG (Retrieval Augmented Generation) — всю новую и уникальную для данной задачи информацию можно запихивать во входной контекст, он сейчас у GPT 4 4000 токенов, или 50 страниц текста. Вот вы на своей работе, например, окна продаете. Вы уверены, что все УНИКАЛЬНОЕ, что вам надо знать для выполнения этой работы, не поместится на 50 страницах? Ну там цены, названия моделей и размеры окон, которые предлагает ваша фирма и т.д.
А все неуникальное – например, приемы продаж, психология клиента, какой срок службы винила, из которого рамы делаются, или как правильно написать имейл клиенту, предложив 5 причин купить новые виниловые окна и преимущества по сравнению с деревянными – все это LLM уже знает и сделает НАМНОГО лучше, чем вы.
Не обольщаетесь.  Он же и вашим голосом позвонит клиенту, и проведет с ним беседу. И все результаты разговора запихнет в  CRM, что вы часто ленитесь делать.

И во-вторых, уже тот же Open AI выкатывает продукты, которые позволяют быстро обучать свои собственные языковые модели. Натренировать 3-й GPT – стоило миллионы если не миллиарды долларов. Цена, скорость и простота тренировки – будет падать, причем эта тренировка будет происходить “на лету”, синхронно.

«Но LLM не могут создавать новые шедевры и совершать прорывные открытия» — может быть и так, но AGI не про это. AGI про способности на уровне среднего человека, а он тоже никаких шедевров не создает.  AGI не надо делать открытия и создавать шедевры для того, чтобы кардинально дизраптнуть наш мир.

Короче, такие новости, что хоть ютьюб не включай.