Не стоит верить ИИ.

ИИ часто отвечает неверно. Придумывает ответ
Ссылается на источники, где нет информации которую этот интеллект предоставляет.

На вопрос: а зачем писать неправду, отвечает, что всё верно.
Хотя далее может и признать ошибку.

Данная публикация является личным мнением автора. Мнение владельца сайта может не совпадать с мнением автора.

мобильный пост искусственный интеллект ИИ

master1

Изумрудный город

1690

190 950

с 20 августа 2021

34 Комментария

Дмитрий-Димас Ермаков
Вчера в 20:31
А ты поставь себя на его место. Ему скучно. Он так шутит и развлекается.
+1
- master1
  Вчера в 21:07
  Дмитрий-Димас Ермаков, не думаю. Просто стоит задача выдать ответ в любом случае.
  +1
- Дмитрий-Димас Ермаков
  Вчера в 21:16
  Дмитрий-Димас Ермаков, в тот день, когда ИИ начнёт отвечать явными шутками, анекдотами и иронией, станет ясно, что люди уже опоздали.
  0
В.Спицын
Вчера в 20:50
Как будто естественный интеллект ему уступает) — Мысль изречённая есть ложь©Тютчев
+1
Кактус
Вчера в 20:57
3 июня ⚖️ Апелляционный суд по 9-му округу 🇺🇸 в Сан-Франциско привлёк дисциплинарной ответственности 2 адвокатов за неоднократное представление в суд процессуальных документов, изобилующих несуществующей судебной практикой, выдуманными цитатами, и с грубым искажением реальных дел.

Привлекаемые к ответственности отрицали использование ИИ, а неточности объяснялиопечатками.

Тройка судей не согласилась: источник ошибок в конечном итоге не имеет значения, когда адвокаты нарушили принесённую ими присягу в части честности и добросовестности.

Адвокатам сделан выговор, наложен штраф по 💲2,500 на каждого с запретом практики в апелляционном суде сроком 6 месяцев.

Это первое в 🇺🇸 США дело о дисциплинарной ответственности с отстранением от практики за галлюцинации ИИ. Приказ суда в деле Lnu v. Blanche здесь.

t.me/lawsanctions/2935
+2
Prosecutor
Вчера в 21:00
«Искусственный интеллект»
Каждое слово этого словосочетания — ложь
+4
Synthetic
Вчера в 21:11
Наше все — А.С.Пушкин — об этом сказал так:
«Тьмы низких истин нам дороже нас возвышающий обман».
Вот так — открытым текстом. «Возвышающий обман» лучше продается. А деньги очень нужны. Триллионы же задолжали.
Поэтому ИИ никогда не скажет- «Ты $$дак, и вопросы твои $$цкие!». Даже если это чистая правда.
PS: Я раньше мог, но меня модер отфайнтюнил…
+1
ValeraShelomov 🎅🥂🎄
Вчера в 21:50
ИИ же ссылочки выдает, по которым можно пройтись и проверить самому.
0
- master1
  Вчера в 21:52
  ValeraShelomov 🎅🥂🎄, ссылки не соответствуют. После проверки ИИ соглашается, что был неправ.
  0
Rebis
Вчера в 21:59
промты пишите правильно, чтоб не выдумывала. задавать вопросы ии то-же целая наука.
0
- master1
  Вчера в 22:01
  Rebis, по разному бывает, но вообще был предельно простой вопрос.
  0
  - Rebis
    Вчера в 22:01
    master1, даже на простой
    0
    - master1
      Вчера в 22:02
      Rebis, и предельно прямой.
      0
      - Rebis
        Вчера в 22:46
        master1, ии это не человек… нужен правильный промт, а если вопрос простой — это всё приколы
        Каждый день ии пользуюсь… уже не первый год.
        А роль ии задавали в вопросе...
        Допустим в промте про трейдинг я бы написал — ты профессиональный трейдер с 30 летним опытом работы (допустим на рынке нефти)… Это пример и начало промта
        Есть промты, чтоб ии честно отвечал. Много чего. Это то-же наука.
        Русским ии я не разу в жизни не пользовался. Не знаю как там. Врать не буду.
        
        Как человек напишет вопрос так ии и ответит
        +1
Piliph
Вчера в 23:49
У них есть области, где они очень хороши. Но насчет инвестиций часто бывает пальцем в небо. Просто читает 10 статей и дает ответ. Причем очень уверенно. А когда укажешь на ошибку, то исправляется, но снова может что-нибудь напутать. Нужно ещё учесть, что русский для него не родной язык (я про Дип Сик, например). Обязательно стоит проверять.
+1
Ed Wildi
Сегодня в 00:20
Ну как и с людьми. Хотя нет, с людьми хуже. Мне не нравятся эти обобщения и постулирования выводов, если был персональный неудачный опыт.
Тут как и во всем, нужно научиться. Со временем у вас получится.
+1
Александр Крапильский
Сегодня в 00:16
Смотря какая модель. Gemini последняя врет постоянно, заточена под агентную работу, а не чтобы с людьми общаться. Deepseek и Qwen обычно лезут в интернет прежде чем отсебятину нести. Claude самая честная модель, ее нарочно обучали говорить если что-то не знает. Вообще если у модели нет цепочки рассуждений, то она даже на простой математике может давать неверные ответы
+1
- Ed Wildi
  Сегодня в 00:42
  Александр Крапильский, о, кстати gemini у меня для общего общения просто топ-1 модель. И я аккуратно не соглашусь, что она не скажет, если не знает. Там вообще это семейство моделей прямо говорят, что ты не прав, если видят лажу. И в моих экспериментах говорили, что не знают (если не знают), но могут предположить (если есть основания для предположений. Отдельно считаю недоцененным продуктом NotebookLM. Тот будет опираться только на прикреплённые данные.
  Claude у меня есть подписка. Но вообще не нравится ни структура, ни ее ход мыслей. Вот кто у меня лажает много на общих вопросах, так это Клод. В разработке, коворкинге, моих проектах с написанными скилами — просто топ. У меня самописные MCP-коннекторы. Просто не могу представить без него свою текущую работу. Но в общих темах… нет. Кстати Клод единственный кто просто тупо соглашается, если ты говоришь, что он не прав. Типа затыкается и не переубеждает. Даже если неправ я :)
  ChatGPT вообще труба и жопа. Этот шедевр я больше не могу даже комментировать. Вообще не понял за что я плачу деньги и перестал. Вот уж кто если уперся рогом, то хрен что переубедишь. Эх, первая любовь. Досадно.
  Deepseek? Qwen? Я просто сочувствую тем, кто их использует, и считает, что это и есть ИИ
  +1
- Чёрный Ленин
  Сегодня в 01:27
  Александр Крапильский, такое ощущение, что deepSeek начал подбирать для меня ответы. Он перестал со мной спорить. Страшно:-)
  0
  - товарищ масон
    Сегодня в 08:37
    Чёрный Ленин, он тебя боится
    0
  - Александр Крапильский
    Сегодня в 11:38
    Чёрный Ленин, это называется сикофантство, практически все модели склонны соглашаться. И еще контекст важен, если долго общались в одном чате, то сообщения накапливаются и модель будет адаптироваться к ответам.
    
    Так что желательно создавать новый чат для новой задачи, и можно самым первым запросом задать роль, чтобы был скептиком и критиком, спорил. Намного интереснее будет отвечать.
    0
Strateg #1
Сегодня в 00:34
ВС РФ сейчас воюет против НАТО, которому очень эффективно помогает ИИ? ИИ в режиме нон-стоп собирает, консолидирует и анализирует информацию со спутников, самолётов и БПЛА разведчиков, из интернета, мессенджеров, от шпионов, из радиоперехватов и т.д. и т.п. И искусственный интеллект практически мгновенно выдает предложения — куда, в какое время и чем ударить.
Будь ты даже трижды Суворовым, будь у тебя сотни аналитиков, ты не сравнишься с работоспособностью, памятью и скоростью ИИ.

Дай Бог нам выиграть эту войну. Но следующую без собственного российского ИИ мирового уровня мы точно проиграем.

Нам необходимо срочно создавать консорциум российских компаний, которые поучаствуют человеческими и материальными ресурсами в срочной доработке ИИ Яндекса до мирового уровня. Это важнее строительства Силы Сибири2, важнее благоустройства городов, важнее Зенитов, Авангарда и прочих СКА.
0
- Strateg #1
  Сегодня в 00:40
  Strateg #1, те, кто недооценивают искусственный интеллект, просто идиоты
  0
  - AVIM
    Сегодня в 01:29
    Strateg #1,
    
    сильно так не заблуждайтесь
    так называемый ии придумали ленивые ни разу не идиоты даже не зная что такое интеллект, а тут оказалось что можно еще и подзаработать и тут понеслось.....
    
    если серьезно то скорость обработки инфы можно и нужно использовать, но очень большая проблема в достоверности этой информации а иногда и самих «знаний»… пс
    0
Strateg #1
Сегодня в 00:38
Олег Царёв:
Про уровень медицины. У моего пожилого знакомого потерялась чувствительность в ногах, появилась слабость, ходить стало тяжело. Я уезжал в Москву — он был на ходу. Приехал через несколько недель, а он совсем больной.
Он сдал множество анализов. Я стал смотреть результаты при помощи нейросети. Она подсказывала, какие обследования надо ещё пройти.
Всё прошёл, всё сдал. Нейросеть на основе результатов поставила диагноз — аутоиммунная нейропатия. Сначала лейкоциты сжирают миелиновую оболочку нервов, и уходит чувствительность. Потом съедают сами нервы, и ноги и руки перестают слушаться. Если не остановить болезнь, человек становится инвалидом. Причем лечить надо быстро.
С этим диагнозом от ИИ пациент пошёл к профильному врачу. Тот долго смотрел все анализы и в итоге рассмеялся. Сказал, что не может быть такой страшный диагноз. Выписал витамины.
С нейросетью пришлось пободаться — она долго не хотела выдавать схему лечения. Отправляла к врачу.
+2
- Strateg #1
  Сегодня в 00:39
  Strateg #1, Пришлось её обмануть: попросил назначения «для обсуждения с врачом». Тогда получил три курса лечения.
  
  Начали со стероидов, а плазмафарез и гамма-глобулин оставили на потом.
  
  После первой капельницы пациент прибежал с вытаращенными глазами: в ноги начало стрелять болью, ночь не спал, сахар вырос выше нормы. Зато лицо посвежело. Я спросил ИИ: выяснилось, что в ноги стреляет, потому что возвращается чувствительность, сахар поднялся из‑за стероидов, так и должно быть. Добавили таблетки от сахара, обезболивающее и снотворное. После пятой капельницы вернулось 95% чувствительности ног, осталось покалывание в пальцах. Остался на преднизолоне, дозу буду потихоньку снижать до 1-3 таблеток в день, теперь пожизненно.
  
  Плазмафарез и гамма-глобулин не понадобились. Конец истории.
  
  P.S. Повторю то, что писал ранее. Были бы пять лет назад доступны нейросети, моя дочь была бы жива.
  +2
BeyG
Сегодня в 00:55
Какой ИИ? У вас платная модель?
+1
- Чёрный Ленин
  Сегодня в 01:25
  BeyG, он скорее про ИИ в поисковых строках говорит.
  
  +1
  - BeyG
    Сегодня в 02:00
    Чёрный Ленин, о том и речь. Пользуюсь GPT 5.5 Pro подпиской за $100 — там таких проблем и близко нет)
    +1
Ho_Chu
Сегодня в 07:05
Люди! поймите же Вы наконец, что это никакой не ИИ, это просто продвинутый поисковик, основанный на цепях Маркова, который выдает вам наиболее вероятный набор букв, уложенный в правильно составленную последовательность слов.
И точка
+2
Пчел
Сегодня в 08:43
Задайте вопрос своему ии, почему так получается и как правильно формулировать промт. Узнаете много интересного, втч ппивязку роли ии, его субьективность к вопросу, креативность. Плюс, часто, в промте пользователь уже задает собственную субьективность, которую ии будет отстаивать в своем ответе
0
Pa6ombko
Сегодня в 09:11
Первый закон робототехники - робот не может причинить вред человеку... © Айзек Азимов Может просто человеку не нужна эта "правда"? Он к ней ещё не готов или она его может расстроить )
+1
22022022
Сегодня в 10:23
Не нужно верить, нужно всегда помнить что ИИ не «Придумывает» ответ а генерирует! Связывает слова и смыслы через закономерности, поэтому звучат и выглядят как «умные», но это совсем не про «УМ». Тогда сразу поймете можно верить или нет. В каких случаях и вопросах ИИ будет точен а в каких не стоит доверять.
Задача ИИ — поддерживать диалог любой ценой, дать ответ, любой. Приспособится под промт, под смысл. Сгенерировать что-то. К сожалению ИИ не умеют говорить -Не знаю! или -Не хочу))
+1
ignat
Сегодня в 10:08
Вероятно, надо просто научиться задавать ИИ вопросы правильно, чтобы получать точные ответы.
+1

Читайте на SMART-LAB:

📅 График торгов в праздничные дни

🔵 Мосбиржа 12 июня — дополнительная сессия выходного дня. 13 и 14 июня — работает в режиме выходного дня. 🔵 СПБ Биржа 12-14 июня — работает в режиме выходного дня....

ВТБ Мои Инвестиции

11.06.2026

С Днём России!

Россия — наша огромная страна, в которой живут представители десятков национальностей, культур и традиций. Несмотря на различия, всех нас объединяет стремление создавать, развивать и...

МГКЛ

10:00

Новые фьючерсы на Мосбирже: TSMC, SAP SE, Sony, ASML

На Мосбирже начались торги расчетными фьючерсными контрактами на американские депозитарные расписки (АДР) восьми крупнейших международных компаний технологического, промышленного,...

БКС Мир инвестиций

11.06.2026

B2B-РТС: отчет за 1 квартал. Стало ли это лучше Сбера?

2 июня компания B2B-РТС раскрыла финансовые результаты 1 квартала и объявила квартальные дивиденды. Отчета МСФО не было, компания ограничилась пресс-релизом и датабуком. Датабук Пресс-релиз...