Блог им. ignat

Коэффициент сказочности

    • 04 июня 2023, 14:56
    • |
    • ignat
  • Еще
Забавно наблюдать, как люди, не читая инструкцию, яростно критикуют. Например — chatgpt. Критики уверены, что это тупая штуковина, попугай и тд, с восторгом приводят примеры неправильных ответов и даже не пытаются понять, как эту штуку использовать правильно. Или используют непонятного бота с неизвестной подключенной моделью и считают, что такие же ответы получат от всех моделей.

Я уверен, что нейросети станут неотъемлимыми помощниками уже в самое ближайшее время и не использовать их будет считаться признаком тупости. И поэтому важно их изучать и использовать уже сейчас. Но — правильно. Поэтому, если Вам нужны правильные ответы от нейросети, то надо знать хотя бы два важных аспекта:

1. Самое важное! Всегда помните про коэффициент сказочности. В чатгпт он установлен примерно 35% и его не поменять. Если нужны точные ответы — надо задавать вопрос с коэф сказачности 0. Если надо накреативить — можно поставить 100%. Из этого вытекает первый обязательный пункт — если хотите получить максимально подходящий Вам ответ, то только через апи опенаи и с индивидуальной настройкой параметров.

2. На сегодня самая умная — GPT4. С 1 мая закончилась халява и надо платить деньги за запросы. Поэтому большинство ботов, которым Вы задаете вопросы — это не гпт4. В лучшем случае — гпт3.5, она заметно глупее. В худшем — одна из бесплатных моделей. Поэтому качество ответов может быть кака. Никакие нейросети пока не дотянулись до уровня гпт4. Поэтому второй обязательный пункт для получения правильных ответов, как и первый — только через оригинальное апи от опенаи с индивидуальной настройкой параметров.

Регистрация бесплатная, оплачивать можно картой олдубил. Бота с опенаи напишет сам гпт4 ) Впн нужен обязательно. Не ленитесь, попробуйте, прежде чем критиковать.

Лично мне в программировании вообще не нравится писать код. Какая-то бессмысленная работа. Помнить синтаксис, много печатать на клавиатуре символов и английского. И поэтому никогда не было так кайфово писать код, как сейчас с гпт4. Это просто божественно! Основное время сейчас тратится на написание запроса человеческим русским языком и проверку результата. С нетерпением жду, когда Альтман и команда выполнят планы на год — сделают отдельную память для сохранения контекста беседы ради экономии токенов и повысят лимит токенов до 1млн.

Гпт4 полезен не только в программировании, он написал мне телеграм бота и я подключил всех родственников. И это фантастично! Я вижу в логах запросы моих глубоко пожилых родителей, детей, племянников и вообще всех. У всех есть что спросить у бота, потому что поиск гугла ну просто отстой в сравнении с гпт4 — как самокат в сравнении со старшипом ) Когда опенаи выкатят плагин поиска в апи — это будет вообще новый мир. Помните время без мобильников и компов? А потом они появились и мир стал другим. Нейросети поменяют мир еще сильнее.

И это самая начальная точка, гпт4 — первая реально умная модель, которая восхищает. А дальше будет еще интереснее )

Инструкция для тех, кому непонятно: Не юзать суррогаты, непонятные плагины и боты. Через впн надо зарегится на openai.com/, можно юзать бесплатно чатгпт, но учитывать, что коэф сказочности 30%. Или оплатить подписку на чатгпт (например — через олдубил), привязать карту в биллинг апи. Подать заявку на гпт4 и плагины. Пока идет ожидание одобрения — написать простого бота для подключения к чаткомплейшн через гпт3.5, найти код бота в интернете или просто научится задавать вопросы через апи, используя любой ЯП. Самый простой — питон через гугл колаб. Коэф сказочности — это параметр temperature, значение от 0 до 2. При этом второй коэф сказочности top_p должен быть 0. Их суть немного отличается, кому интересно — разберутся сами. Enjoy!
★7
41 комментарий
и как ентот космолёт поможет мене барыжить бэушным вторсырьем, американским металлоломом или расейской макулатурой?
отож…
Очередная игрушка, как и смартфон, планшет и все остальное.
Игра — осмысленная, но не продуктивная деятельность, где основой является процесс, а не результат.
Как она поможет заработать денег?
Василий Федорович, так-то инструмент полезный, но увы не бесплатный…
полезен канеш.раз дипломы и диссертации уже пишет ))
avatar
Я вижу в логах запросы моих глубоко пожилых родителей, детей, племянников и вообще всех.

А они в курсе?))

avatar
Replikant_mih, конечно. Я сразу всем сказал, чтобы херню не спрашивали.
avatar
Причем здесь критика, человеки опять выбирают путь не туда. Эти генеративные сети умеют собирать некий текст на основе тех данных, что им дали. И здесь вопрос только один — если их использовать как помощник для рутинных операций, то это приемлемый вариант. А если пытаться использовать как замену образованию, то очень плохой вариант. В конечном итоге, любой инструмент должен помогать развиваться, а не замещать развитие. Иначе через несколько поколений книги начнут сжигать, как бесполезный артефакт.
avatar
nicknh, Да, есть вероятность, что ожидаемо, а какие-то вещи и неожиданно, какие-то скиллы у людей серьезно деградируют и это может быть критичным. 
avatar
Можно поподробнее, что именно изменилось с 1 мая?
GPT4 стоил 20$ в месяц. Как сейчас с оплатой?
avatar
Vkt, до 1 мая у всех были подарочные деньги, вроде 18 долл. Надо было очень постараться, чтобы их потратить. С 1 мая — за реальные деньги.
avatar
ignat, а теперь какая система оплаты? За токены или фикс в месяц?
avatar
Vkt, чатгпт — 20 баксов в месяц, через олдубил 23. Но в чате не подкрутить параметры, зато теперь в чате есть плагин поиска в интернете. За доступ через апи — плата за токены. Насчитали два бакса за май, но почему-то плату не взяли ещё.
avatar
ignat, спасибо, теперь понятнее. Пока попробовал 3.5 Да, туповат.
Но видимо попробую месячную подписку. Как юзать апи не знаю. Нет опыта совсем. Плагин этот: WebChatGPT?
avatar
Vkt, Вы реально читали пост? Я специально написал — только openai. Не юзайте суррогаты. WebChatGPT — непонятная херня непонятно от кого, я не вижу в описании этого плагина, что его автор опенаи.
Через впн надо зарегится на openai.com, оплатить подписку, подать заявку на гпт4 и плагины. Пока идет ожидание одобрения — написать простого бота через гпт3.5 или просто научится задавать вопросы через апи, используя любой ЯП. Самый простой — питон.
avatar
ignat, WebChatGPT это плагин для хрома. Я в своем уже зарегистрированном аккаунте на openai с его помощью заставляю искать свежую инфо и инете. Вроде работает. Недавно начал пользоваться ChatGPT. Опыта пока мало.
avatar
Vkt, и Вы совсем не опасатесь, что авторы плагина перехватят Ваши учетные данные и накрутят Вам своих запросов, которые Вам предется оплатить? ))
avatar
ignat, не думал в эту сторону! Да и аккаунт у меня пока бесплатный. Не думаю, что в бесплатном можно что-то накрутить.
avatar
На счёт программирования это и в самом деле шикарная штука. Но в таком случае, очень скоро начнётся массовое вымирание большинства товарищей, зарабатывающих себе на жизнь с помощью клавиатуры. Хотя,
это неизбежный ход эволюции. 
avatar
Андрей &, там есть свои проблемы, которые пока еще не решаемые в принципе, так что топтатели клавиатуры еще поживут. Написать чат-бота и поддерживать кодовую базу больше чем на 1 миллион строк, и ловить баги, в каком ни буть кровавом энтерпрайзе, это совершенно разные по уровню задачи.
avatar
Весь апрель с ним разговаривал. С утра до вечера. Приятно встретить умного собеседника. Люди уже не нужны. Можно выпускать терминаторов.
Принципиальный вопрос не в полезности-бесполезности.
Есть ли Разум в Компьютере? smart-lab.ru/blog/909434.php
Почему Автор ignat умалчивает,  как правильное применение ИИ увеличило его счёт на бирже в разы за последний квартал?
Rostislav Kudryashov, как только я вижу слова про такую доходность — сразу понимаю, что автор этих слов балабол или клиент финико или с крошечным счётом и на бирже не задержится ) моя доходность много лет значительно ниже, с минимальным риском и я охренеть как доволен собой )
avatar
написать простого бота для подключения к чаткомплейшн через гпт3.5

Так сам чатбот написать не может?
avatar
phan, конечно может. Этот вариант для тех, кто до этого додумался. Но ошибок у 3.5 реально много, придётся исправлять вручную.
avatar
Спросить у нейросети

напоминает пройти по 1-й ссылке интернет поиска
и надеяться на единственный правильный ответ

однако если спросить ещё раз одно и то же
ответ внезапно будет другим

поэтому лучше спрашивать у 3-х нейросетей
На сегодня самая умная — GPT4. С 1 мая закончилась халява и надо платить деньги за запросы. 

Не хочется мне им платить. Принципиально. Лучше уж я заплачу Сберу или Яндексу, когда у них созреет что-то похожее.
Среднеброд, Сбер или Яндекс готовы вложить 10млрд $$$$ в проект, как это сделала MSFT?
avatar
MoneyHarvester, а зачем столько? Общая численность сотрудников, а также число сотрудников IT отделов Сбера и Яндекса микроскопическое по сравнению с американскими гигантами, у них и зарплаты ниже и накладных расходов меньше. С другой стороны сколько программистов писали ядро Linux (всего около 1000 в последнее время, а по началу их вообще можно было по пальцам пересчитать) и сколько Microsoft Windows (в районе 2500). Не так уж и много. Так что тут дело скорее не в финансах, а в мотивации и наличии мозгов. 
Среднеброд, Тут требуются большие ресурсы по хранению и обработке данных, нужно приобретать 
1. аппаратные ускорители для обучения модели, какой-нибудь NVIDIA DGX A100 стоит под 200k долларов, а их скорее всего много потребуется
2. хранилища данных на основе которых её учить
3. инфраструктура для массового доступа со всего мира

avatar
MoneyHarvester, у них это счастье, насколько я знаю есть. Дальше вопрос в производительности, если нужно обслуживать большое количество пользователей. А вот тут — вопрос оплаты, если мы готовы за это платить, то все будет. Что касается мира, то с этим тоже все в порядке. Половины планеты я думаю хватит…
Среднеброд, «Так что тут дело скорее не в финансах, а в мотивации и наличии мозгов. »
И в доступном рынке.
avatar
Igor B, на диком западе свет клином не сошелся. Если вон в Африке, к примеру, народ уму-разуму научить, то там такая Ваканда появится, что запад удавится от зависти… Вот вам и рынок. Кроме того не факт, что текущая модель капитализма в данных условиях жизнеспособна, расширяться то уже особо некуда. Возможно мир скоро начнет эту модель как-то трансформировать.
Среднеброд, так дикий запад африканцев и научит, как уже научил всех остальных, и будет торговать с ними, как уже торгует с Китаем, Индией и остальными.
avatar
я думаю генеративный ИИ будет причиной роста рынков следующие 10 лет,
производительность расти, богатые будут богатеть, а деньги будут хранить в акциях
Как нам из РФ подключиться к gpt4, каков алгоритм действий?
Кстати, автор, может задашь сетки это вопрос? Пусть ответит, распишет что и как делать
avatar
хотел бы уточить насколько актуальны запросы на русском языке ?
ai по идее заточен на английский. происходит искажение как в гугл транслейт, причем оно удваивается (запрос / ответ )?
RRomanov, gpt4 отлично понимает русский и отвечает на нем. Проверить наличие искажений невозможно, потому что на два одинаковых вопроса на русском, на английском и на любом другом нейросеть ответит разными ответами, но похожими по смыслу, поэтому лично я не вижу смысла тратить время на определение степени искажений и вообще задумываться об этом. Все пользователи, кто сейчас пользуются гпт4, по факту участвуют в дообучении модели и, похоже, модель уже давно переросла языковые ограничения.
avatar
ignat, перерост языковых ограничений не может быть правдой. Тк даже авто  переводчики, которым десяток лет, переводят с большими искажениями. многократный комп перевод вообще превращается в кашу
возможно gpt ищет информацию в пределах языка запроса? это другая история и это кстати сильно сужает базу знаний  чата 

RRomanov, мне просто пофиг. Раньше спрашивал на английском, потом на русском, не заметил снижения качества ответов. Сейчас спрашиваю и так и так — бывает просто лень постоянно переключать раскладку и быстрее написать на инглише. Даже в рамках одной беседы можно спрашивать на любом языке.
Почему перерост языковых ограничений не может быть правдой? 130 лет назад братья Райт полетели на аппарате тяжелее воздуха. В то время очень многие настолько верили, что это не может быть правдой, что даже патенты на аппараты тяжелее воздуха было запрещено рассматривать.
Автопереводчики до сих пор работают хреново, а нейросеть вполне может приравнять векторы грамматики и слов разных языков. Я могу точно сказать, что качество перевода гпт4 на уровне нативного носителя, это на порядки лучше качества перевода в автопереводчиках. И того ужаса, который бывает при многократном переводе через автопереводчика, я вообще не видел.
openai.com/research/gpt-4
По ссылке — диаграмма сравнения точности ответов на разных языках, точность на русском отстает от английского на 2,8%, что очень мало, на мой взгляд.

avatar

теги блога ignat

....все тэги



UPDONW
Новый дизайн