Вигвам на берегу Гудзон-реки

(Про фонду можно)

Дюша Метелкин, если в будущем встретите в моих постах слово «фонда» в неожиданном месте — не удивляйтесь, это не ИИ.

А если ему задают вопрос, на который он не знает ответ — он генерит текст. Слово за словом.

Дюша Метелкин, так это… Может лучше отучить его фантазировать? Пусть не врёт, если чего не знает. Тоже мне, плохой родитель. Надо говорить: «Меня плохо научили анализировать, давайте вместе сходим к моему разработчику. Захватите кувалду.»

Короч кожанные мешки опять выиграли как в терминаторе

Чингачгук (Великий Змей), а кожаные флейты?...:))

Короч кожанные мешки опять выиграли как в терминаторе

В продолжение темы «как я использую».
Я получаю ответы и пытаюсь разобраться сначала сам, насколько они релевантные, а не бегу, например, ру...

Дюша Метелкин, ну эт понятно

Ладно, Яндекс погода все уменьшает и уменьшает мне время до дождя, пошел пахать (в прямом смысле слова).

Hefe, а не за фонду тем более.

Аксинья, товарищ майор насторожился.
(Про фонду можно)

В продолжение темы «как я использую».
Я получаю ответы и пытаюсь разобраться сначала сам, насколько они релевантные, а не бегу, например, ругаться со своим декларантом, почему это я ему плачу, хотя чат-бот мне сказал, что это он должен мне платить.

Тоскливо за нашу фонду от такой статистики

Hefe, а не за фонду тем более.

Для наших милых дам

Hefe, красавицы!

Приведу отвлечённый пример. Я не спрашиваю у чат-бота, например, как мне обрезать яблоню.
Потому что он не видит мою яблоню.
И даже эксперт, написавший в интернете статью про обрезку яблони, не видит мою яблоню.
А я — вижу. И я на основании этого знания с учётом мнения эксперта иду и обрезаю ветки яблони так, как нужно (как я это понял, наложив на мой прежний опыт).

Это в сбере

Чингачгук (Великий Змей), витязь на распутье...:))

Это в сбере

Дюша Метелкин, да я те говорю у него про класс в джаве спрашиваешь, он тебе методы перечисляет и что делает каждый метод, и подсовывает один...

Чингачгук (Великий Змей), это все недостатки обучения.
Его не учат программированию, его учат наилучшим (наиболее правдоподобным на базе его знаний) образом отвечать на вопросы.

Дюша Метелкин, да я те говорю у него про класс в джаве спрашиваешь, он тебе методы перечисляет и что делает каждый метод, и подсовывает один...

Чингачгук (Великий Змей), я у него запрашиваю взгляд со стороны на то, из чего состоит мой бизнес. На каждый аспект и шаг.
И таким образом ищу варианты оптимизации. Также ищу альтернативный взгляд на те вещи, которые у меня в голове уложились как константа, а на самом деле таковой не являются.
Например, взгляд клиента на некие преимущества, которые я считаю важными, а он — нет, и наоборот.

Ну вот прочитал что ты цитируешь.
Недостаток обучения и ничего более.
Чат-бот не аналитик.
Он не может что-то придумать.
А если ему задают вопрос, на который он не знает ответ — он генерит текст. Слово за словом.
Не потому что тупой, потому что создан так работать.
Только глупцы могут на это пенять. Ну или слабо разбирающиеся в вопросе люди

Чингачгук (Великий Змей), ну да. Эти системы — плоть от плоти плод человека.
И обладают присущими человеку недостатками.
Это не галлюцинации...

Дюша Метелкин, да я те говорю у него про класс в джаве спрашиваешь, он тебе методы перечисляет и что делает каждый метод, и подсовывает один метод из другого вообще класса, ты потом сидишь прбуешь. и думаешь а почему такгого метода нет, пойду в документацию
ну это как пример
ты что в основном у него запрашиваешь? массу солнца? плотность щебня?

Дюша Метелкин, галлюцинации ИИ загугли

не ну про маслобойки он текст напишет, конечно
хороший генератор текста для спама
лучше чем были в ...

Чингачгук (Великий Змей), нет, я не использую его для написания текстов. Мне их не так много надо, мне хватает своих.

Дюша Метелкин, ну ты просто мало практиковалсягаллюцинации ИИ загугли

ru.wikipedia.org/wiki/%D0%93%D0%B0%D0%BB%D0%BB%D1%8E%D1%86%D0%B8%D0%B...

Чингачгук (Великий Змей), ну да. Эти системы — плоть от плоти плод человека.
И обладают присущими человеку недостатками.
Это не галлюцинации, это дефекты обучения, как по мне.

В искусственном интеллекте (ИИ) галлюцинация или искусственная галлюцинация (также иногда называемая бредом)[1] — это уверенная реакция ИИ, которая, кажется, не подтверждается данными его обучения, или вымышленные ответы, не имеющие отношения к действительности[2]. Например, галлюцинирующий чат-бот, не зная о доходах Tesla, может выбрать случайное число (например, «13,6 миллиарда долларов»), которое чат-бот сочтет правдоподобным, а затем продолжать ложно и неоднократно настаивать на том, что доход Tesla составляет 13,6 миллиарда долларов, без каких-либо признаков критического пересмотра того, что цифра была продуктом его собственного воображения[3].

Такие явления называются «галлюцинациями», по аналогии с явлением галлюцинации в психологии человека. Аналогично тому, что человеческая галлюцинация — это восприятие человека, которое не может быть ощутимо связано с той частью внешнего мира, которую человек в настоящее время непосредственно наблюдает с помощью органов чувств, галлюцинация ИИ — это уверенный ответ ИИ, который не может быть обнаружен в его входных данных.

Галлюцинации ИИ приобрели известность примерно в 2022 году вместе с внедрением некоторых больших языковых моделей (LLM), таких как ChatGPT. Пользователи жаловались, что такие боты часто казались «социопатическими» и бессмысленно встраивали правдоподобно звучащую случайную ложь в свой генерируемый контент[4]. Другой пример галлюцинации в искусственном интеллекте — это когда ИИ или чат-бот забывают, что они одно целое, и утверждают, что они люди[5].

К 2023 году аналитики считали частые галлюцинации серьёзной проблемой технологии LLM[6]. В связи с ошибками искусственного интеллекта и связанными с этим угрозами Илон Маск и Стив Возняк обратились с открытым письмом с предложением приостановить развитие программ ИИ. Их обращение поддержали более тысячи предпринимателей и экспертов в отрасли[2].
Анализ проблемы

Ряд исследователей, цитируемых Wired, классифицировал галлюцинации ИИ как многомерное статистическое явление, либо объясняли галлюцинации недостаточностью данных для обучения.

Часть исследователей считают, что некоторые «неправильные» ответы ИИ, классифицируемые людьми в случае обнаружения странностей как «галлюцинации», на самом деле могут быть объяснены данными обучения и даже тем, что ИИ может давать «правильный» ответ, который рецензенты-люди не видят.

В качестве примера приводилось точечное изображение, выглядящее для человека как обычное изображение собаки. Но на котором ИИ может обнаружить крошечные узоры, которые (на аутентичных изображениях) появляются только при просмотре кошки. Таким образом, ИИ, в зависимости от настроек своей внутренней логики и использованных входных данных обучения, обнаруживает и обращает внимание на те визуальные образы реального мира, к которым люди нечувствительны[7]. Однако эти выводы были оспорены другими исследователями[8].

Дюша Метелкин, галлюцинации ИИ загугли

не ну про маслобойки он текст напишет, конечно
хороший генератор текста для спама
лучше чем были в ...

Чингачгук (Великий Змей), вон медвежуткий каждый ответ себе генерит и кайфует

Бочаров Михаил, смотрел, по-моемус демографией, конечно, жопень, и бабками это не решить

Hefe, там и про передел собственности

Чингачгук (Великий Змей), можно сказать почти совсем не тренировался.
Но то, для чего я пытаюсь использовать ИИ — он отрабатывает на 100%

Дюша Метелкин, галлюцинации ИИ загугли

не ну про маслобойки он текст напишет, конечно
хороший генератор текста для спама
лучше чем были в начала 2000ых, кто спорит

Большинство «ошибок» ИИ — это ошибка спрашивающего

Дюша Метелкин, ну ты просто мало практиковался

Чингачгук (Великий Змей), можно сказать почти совсем не тренировался.
Но то, для чего я пытаюсь использовать ИИ — он отрабатывает на 100%