bascomo
bascomo личный блог
22 ноября 2023, 14:03

Галлюцинации ChatGPT

Пока я продумываю архитектуру адаптивных торговых систем, изучаю разные источники, экспериментирую, решил поинтересоваться и у самой нашумевшей технологии, что она думает по поводу всего этого.

Галлюцинации ChatGPT



Эта штука (Bing GPT Chat и Chat GPT) рассказала мне удивительные вещи.

Вот, например:

Галлюцинации ChatGPT

Но таких индикаторов не существует в природе!

Дальше — больше.
Я спросил у ChatGPT о заведомо несуществующем индикаторе.
«Я спросил у Ясеня...»:

Галлюцинации ChatGPT

Это бомба. Если не проверять, то можно поверить в сказки, ведь они довольно правдоподобны.
Будьте осторожны, эта технология легко может вас нае... ввести в заблуждение.

Я взломал ChatGPT :)
14 Комментариев
  • Vkt
    22 ноября 2023, 14:17
    Это обычная история, когда спрашивают про что-то не существующее.
    Но самое интересное впереди! Эти модели обучались еще на нормальных человеческих текстах и картинках. Сейчас интернет заполнят сгенерированный контентом и следующие модели будут учиться, в том числе, на таких вот глюках своих предшественников. Что они будут выдавать вообще не известно.


  • OlgaB
    22 ноября 2023, 14:24
    Все так. Было где-то обсуждение, ей кто-то заказал ей работу по географии, она очень красиво все расписала, если не проверять. Вникнув, оказалось, что она половину названий рек и озер выдумала несуществующих в природе. И она не признается, если чего-то не знает. Загоняет пургу с умным видом. Короче ChatGPT — это абсолютный гуманитарий, с хорошо поставленной речью ) 
  • OrinokoA
    22 ноября 2023, 14:25
    вот и доверяй им свои деньги после такого :)
    я не спец в ML, но мне было интересно — если gpt модели вместо слов скормить рыночные данные — как можно более полные тиковые данные — даст это какой-либо интересный результат?
  • 22022022
    22 ноября 2023, 14:25
    ChatGPT должен писать красиво и складно, «придумывать» но правдоподобно, а не искать правду и истину.

Активные форумы
Что сейчас обсуждают

Старый дизайн
Старый
дизайн