Галлюцинации ChatGPT

22 ноября 2023, 14:03
|
bascomo

Пока я продумываю архитектуру адаптивных торговых систем, изучаю разные источники, экспериментирую, решил поинтересоваться и у самой нашумевшей технологии, что она думает по поводу всего этого.

Эта штука (Bing GPT Chat и Chat GPT) рассказала мне удивительные вещи.

Вот, например:

Но таких индикаторов не существует в природе!

Дальше — больше.
Я спросил у ChatGPT о заведомо несуществующем индикаторе.
«Я спросил у Ясеня...»:

Это бомба. Если не проверять, то можно поверить в сказки, ведь они довольно правдоподобны.
Будьте осторожны, эта технология легко может вас нае... ввести в заблуждение.

Я взломал ChatGPT :)

Данная публикация является личным мнением автора. Мнение владельца сайта может не совпадать с мнением автора.

спецраздел:
торговые роботы

3.4К | ★1

14 комментариев

Это обычная история, когда спрашивают про что-то не существующее.
Но самое интересное впереди! Эти модели обучались еще на нормальных человеческих текстах и картинках. Сейчас интернет заполнят сгенерированный контентом и следующие модели будут учиться, в том числе, на таких вот глюках своих предшественников. Что они будут выдавать вообще не известно.

Vkt

22 ноября 2023, 14:17
Ответить

Vkt, я слышал, что пробовали обучать модели при помощи уже обученных языковых моделей. и эти модели след поколения сильно тупели при этом — результат был сильно хуже, чем у первой. ссылку не найду

OrinokoA

22 ноября 2023, 14:21
Ответить

Все так. Было где-то обсуждение, ей кто-то заказал ей работу по географии, она очень красиво все расписала, если не проверять. Вникнув, оказалось, что она половину названий рек и озер выдумала несуществующих в природе. И она не признается, если чего-то не знает. Загоняет пургу с умным видом. Короче ChatGPT — это абсолютный гуманитарий, с хорошо поставленной речью )

OlgaB

22 ноября 2023, 14:24
Ответить

OlgaB, из ChatGPT выйдет отличный депутат!)

Union_Jack

22 ноября 2023, 17:12
Ответить

вот и доверяй им свои деньги после такого :)
я не спец в ML, но мне было интересно — если gpt модели вместо слов скормить рыночные данные — как можно более полные тиковые данные — даст это какой-либо интересный результат?

OrinokoA

22 ноября 2023, 14:25
Ответить

OrinokoA, сильно сомневаюсь. Тут был один носатый, писал посты, как он прикрутил чат жпт к трейдингу, скармливая ему последние рыночные данные, правда, после этого поста он резко пропал. Возможно, всё слил и за ним пришли Ынвесторы :)

Почему сомневаюсь? Потому что ChatGPT это LSTM, которая предсказывает последовательности токенов (если проще — слов). Это совсем не тики.

bascomo

22 ноября 2023, 14:40
Ответить

ChatGPT должен писать красиво и складно, «придумывать» но правдоподобно, а не искать правду и истину.

22022022

22 ноября 2023, 14:25
Ответить

22022022, он не утверждает, что индикатор существует, он просто по моей просьбе его описал :)

bascomo

22 ноября 2023, 14:41
Ответить

Но таких индикаторов не существует в природе!

Значит ты должен их изобрести, слышишь Конор!

Главком Главком

22 ноября 2023, 14:33
Ответить

Главком Главком, доверим это ChatGPT.

bascomo

22 ноября 2023, 14:41
Ответить

Может, есть такой индикатор) придумал кто-то

Вспомнился анекдот про перекличку в армии:
— Иванов
— Я
— Петров
-Я
— Череззаборногузадерищенский
— Я
— Ни фига себе фамилия
— Я

Коперник

22 ноября 2023, 15:09
Ответить

Я спросил у ChatGPT о заведомо несуществующем индикаторе.

Почему несуществующем? Есть, как минимум, адаптивный стохастик Тушара Чанде
(ГПТ, судя по всему, описывает именно его)
Гугл подсказывает, что есть ещё адаптивный стохастик Элерса, но я про него хз.

Ну как бы

22 ноября 2023, 18:40
Ответить

Я местным специалистам по ИИ дважды в комментариях писал про галлюцинации, но они даже не поняли о чем речь.

deke

23 ноября 2023, 02:55
Ответить

Ничего странного. ИИ приводится к среднему знаменателю. С учетом того что в интернете 90% мусора. Он просто имитирует интеллект и сознание, не обладая ими.

Reader