Блог им. AleksandrBaryshnikov

Галлюцинации ChatGPT

    • 22 ноября 2023, 14:03
    • |
    • bascomo
  • Еще
Пока я продумываю архитектуру адаптивных торговых систем, изучаю разные источники, экспериментирую, решил поинтересоваться и у самой нашумевшей технологии, что она думает по поводу всего этого.

Галлюцинации ChatGPT



Эта штука (Bing GPT Chat и Chat GPT) рассказала мне удивительные вещи.

Вот, например:

Галлюцинации ChatGPT

Но таких индикаторов не существует в природе!

Дальше — больше.
Я спросил у ChatGPT о заведомо несуществующем индикаторе.
«Я спросил у Ясеня...»:

Галлюцинации ChatGPT

Это бомба. Если не проверять, то можно поверить в сказки, ведь они довольно правдоподобны.
Будьте осторожны, эта технология легко может вас нае... ввести в заблуждение.

Я взломал ChatGPT :)
3.3К | ★1
14 комментариев
Это обычная история, когда спрашивают про что-то не существующее.
Но самое интересное впереди! Эти модели обучались еще на нормальных человеческих текстах и картинках. Сейчас интернет заполнят сгенерированный контентом и следующие модели будут учиться, в том числе, на таких вот глюках своих предшественников. Что они будут выдавать вообще не известно.


avatar
Vkt, я слышал, что пробовали обучать модели при помощи уже обученных языковых моделей. и эти модели след поколения сильно тупели при этом — результат был сильно хуже, чем у первой. ссылку не найду
avatar
Все так. Было где-то обсуждение, ей кто-то заказал ей работу по географии, она очень красиво все расписала, если не проверять. Вникнув, оказалось, что она половину названий рек и озер выдумала несуществующих в природе. И она не признается, если чего-то не знает. Загоняет пургу с умным видом. Короче ChatGPT — это абсолютный гуманитарий, с хорошо поставленной речью ) 
avatar
OlgaB, из ChatGPT выйдет отличный депутат!)
avatar
вот и доверяй им свои деньги после такого :)
я не спец в ML, но мне было интересно — если gpt модели вместо слов скормить рыночные данные — как можно более полные тиковые данные — даст это какой-либо интересный результат?
avatar
OrinokoA, сильно сомневаюсь. Тут был один носатый, писал посты, как он прикрутил чат жпт к трейдингу, скармливая ему последние рыночные данные, правда, после этого поста он резко пропал. Возможно, всё слил и за ним пришли Ынвесторы :)

Почему сомневаюсь? Потому что ChatGPT это LSTM, которая предсказывает последовательности токенов (если проще — слов). Это совсем не тики.
avatar
ChatGPT должен писать красиво и складно, «придумывать» но правдоподобно, а не искать правду и истину.
avatar
22022022, он не утверждает, что индикатор существует, он просто по моей просьбе его описал :)
avatar
Но таких индикаторов не существует в природе!   
Значит ты должен их изобрести, слышишь Конор!
Главком Главком, доверим это ChatGPT.
avatar
Может, есть такой индикатор) придумал кто-то

Вспомнился анекдот про перекличку в армии:
— Иванов
— Я
— Петров

— Череззаборногузадерищенский
— Я
— Ни фига себе фамилия
— Я
avatar
Я спросил у ChatGPT о заведомо несуществующем индикаторе.

Почему несуществующем? Есть, как минимум, адаптивный стохастик Тушара Чанде 
(ГПТ, судя по всему, описывает именно его)
Гугл подсказывает, что есть ещё адаптивный стохастик Элерса, но я про него хз.
avatar
Я местным специалистам по ИИ дважды в комментариях писал про галлюцинации, но они даже не поняли о чем речь.
avatar
Ничего странного. ИИ приводится к среднему знаменателю. С учетом того что в интернете 90% мусора. Он просто имитирует интеллект и сознание, не обладая ими.
avatar

Читайте на SMART-LAB:
Фото
USD/CAD: геополитический кульбит придал силы канадцу
Канадский доллар достиг минимума за несколько месяцев, после чего начал разворачиваться, отыграв часть предыдущих потерь. Пара росла на фоне роста...
Большое будущее палладия
 «Норникель» запустил первую в мире лабораторию, где будут создавать новые материалы на основе этого металла.  Площадка позволит синтезировать,...
Фото
ТМТ-сектор: ИИ ― двигатель нового технологического уклада
Эксперты отмечают стремительный рост мирового рынка ИКТ, а также увеличение объема инвестиций в искусственный интеллект и строительство...
Фото
Основные инвест идеи с выступления Mozgovik в Калининграде + презентации с выступления
Доброго дня! В субботу мы ездили в Калининград, выступали перед годовыми подписчиками, обсуждали стратегию и идеи на рынке акций. Спасибо всем, кто...

теги блога bascomo

....все тэги



UPDONW
Новый дизайн