Блог им. master1

Не стоит верить ИИ.

ИИ часто отвечает неверно. Придумывает ответ
Ссылается на источники, где нет информации которую этот интеллект предоставляет.

На вопрос: а зачем писать неправду, отвечает, что всё верно.
Хотя далее может и признать ошибку.

Данная публикация является личным мнением автора. Мнение владельца сайта может не совпадать с мнением автора.
1.2К | ★1
29 комментариев
А ты поставь себя на его место. Ему скучно. Он так шутит и развлекается.
Дмитрий-Димас Ермаков, не думаю. Просто стоит задача выдать ответ в любом случае.
avatar
Дмитрий-Димас Ермаков, в тот день, когда ИИ начнёт отвечать явными шутками, анекдотами и иронией, станет ясно, что люди уже опоздали.
Как будто естественный интеллект ему уступает) — Мысль изречённая есть ложь©Тютчев
3 июня ⚖️ Апелляционный суд по 9-му округу 🇺🇸 в Сан-Франциско привлёк дисциплинарной ответственности 2 адвокатов за неоднократное представление в суд процессуальных документов, изобилующих несуществующей судебной практикой, выдуманными цитатами, и с грубым искажением реальных дел.

Привлекаемые к ответственности отрицали использование ИИ, а неточности объяснялиопечатками.

Тройка судей не согласилась: источник ошибок в конечном итоге не имеет значения, когда адвокаты нарушили принесённую ими присягу в части честности и добросовестности.

Адвокатам сделан выговор, наложен штраф по 💲2,500 на каждого с запретом практики в апелляционном суде сроком 6 месяцев.

Это первое в 🇺🇸 США дело о дисциплинарной ответственности с отстранением от практики за галлюцинации ИИ. Приказ суда в деле Lnu v. Blanche здесь.

t.me/lawsanctions/2935
avatar
«Искусственный интеллект» 
 Каждое слово этого словосочетания — ложь
avatar
Наше все — А.С.Пушкин — об этом сказал так:
«Тьмы низких истин нам дороже нас возвышающий обман».
Вот так — открытым текстом. «Возвышающий обман»  лучше продается. А деньги очень нужны. Триллионы же задолжали.
Поэтому ИИ никогда не скажет- «Ты $$дак, и вопросы твои $$цкие!». Даже если это чистая правда.
PS: Я раньше мог, но меня модер отфайнтюнил…
avatar
ИИ же ссылочки выдает, по которым можно пройтись и проверить самому.
ValeraShelomov 🎅🥂🎄, ссылки не соответствуют. После проверки ИИ соглашается, что был неправ.
avatar
промты пишите правильно, чтоб не выдумывала. задавать вопросы ии то-же целая наука. 
avatar
Rebis, по разному бывает, но вообще был предельно простой вопрос.
avatar
master1, даже на простой
avatar
Rebis, и предельно прямой.
avatar

master1, ии это не человек… нужен правильный промт, а если вопрос простой — это всё приколы

Каждый день ии пользуюсь… уже не первый год.

А роль ии задавали в вопросе... 

Допустим в промте про трейдинг я бы написал — ты профессиональный трейдер с 30 летним опытом работы (допустим на рынке нефти)… Это пример и начало промта 

Есть промты, чтоб ии честно отвечал. Много чего. Это то-же наука. 

Русским ии я не разу в жизни не пользовался. Не знаю как там. Врать не буду. 

 

Как человек напишет вопрос так ии и ответит

avatar
У них есть области, где они очень хороши. Но насчет инвестиций часто бывает пальцем в небо. Просто читает 10 статей и дает ответ. Причем очень уверенно. А когда укажешь на ошибку, то исправляется, но снова может что-нибудь напутать. Нужно ещё учесть, что русский для него не родной язык (я про Дип Сик, например). Обязательно стоит проверять.
avatar
Ну как и с людьми. Хотя нет, с людьми хуже. Мне не нравятся эти обобщения и постулирования выводов, если был персональный неудачный опыт.
Тут как и во всем, нужно научиться. Со временем у вас получится.
avatar
Смотря какая модель. Gemini последняя врет постоянно, заточена под агентную работу, а не чтобы с людьми общаться. Deepseek и Qwen обычно лезут в интернет прежде чем отсебятину нести. Claude самая честная модель, ее нарочно обучали говорить если что-то не знает. Вообще если у модели нет цепочки рассуждений, то она даже на простой математике может давать неверные ответы

Александр Крапильский, о, кстати gemini у меня для общего общения просто топ-1 модель. И я аккуратно не соглашусь, что она не скажет, если не знает. Там вообще это семейство моделей прямо говорят, что ты не прав, если видят лажу. И в моих экспериментах говорили, что не знают (если не знают), но могут предположить (если есть основания для предположений. Отдельно считаю недоцененным продуктом NotebookLM. Тот будет опираться только на прикреплённые данные.

Claude у меня есть подписка. Но вообще не нравится ни структура, ни ее ход мыслей. Вот кто у меня лажает много на общих вопросах, так это Клод. В разработке, коворкинге, моих проектах с написанными скилами — просто топ. У меня самописные MCP-коннекторы. Просто не могу представить без него свою текущую работу. Но в общих темах… нет. Кстати Клод единственный кто просто тупо соглашается, если ты говоришь, что он не прав. Типа затыкается и не переубеждает. Даже если неправ я :)
ChatGPT вообще труба и жопа. Этот шедевр я больше не могу даже комментировать. Вообще не понял за что я плачу деньги и перестал. Вот уж кто если уперся рогом, то хрен что переубедишь. Эх, первая любовь. Досадно.
Deepseek? Qwen? Я просто сочувствую тем, кто их использует, и считает, что это и есть ИИ

avatar
Александр Крапильский, такое ощущение, что deepSeek начал подбирать для меня ответы. Он перестал со мной спорить. Страшно:-)
ВС РФ сейчас воюет против НАТО, которому очень эффективно помогает ИИ? ИИ в режиме нон-стоп собирает, консолидирует и анализирует информацию со спутников, самолётов и БПЛА разведчиков, из интернета, мессенджеров, от шпионов, из радиоперехватов и т.д. и т.п. И искусственный интеллект практически мгновенно выдает предложения — куда, в какое время и чем ударить.
Будь ты даже трижды Суворовым, будь у тебя сотни аналитиков, ты не сравнишься с работоспособностью, памятью и скоростью ИИ.

Дай Бог нам выиграть эту войну. Но следующую без собственного российского ИИ мирового уровня мы точно проиграем.

Нам необходимо срочно создавать консорциум российских компаний, которые поучаствуют человеческими и материальными ресурсами в срочной доработке ИИ Яндекса до мирового уровня. Это важнее строительства Силы Сибири2, важнее благоустройства городов, важнее Зенитов, Авангарда и прочих СКА.
avatar
Strateg #1, те, кто недооценивают искусственный интеллект, просто идиоты
avatar
Strateg #1, 

сильно так не заблуждайтесь
так называемый ии придумали ленивые ни разу не идиоты даже не зная что такое интеллект, а тут оказалось что можно еще и подзаработать и тут понеслось.....

если серьезно то скорость обработки инфы можно и нужно использовать, но очень большая проблема в достоверности этой информации а иногда и самих «знаний»… пс
avatar
Олег Царёв:
Про уровень медицины. У моего пожилого знакомого потерялась чувствительность в ногах, появилась слабость, ходить стало тяжело. Я уезжал в Москву — он был на ходу. Приехал через несколько недель, а он совсем больной.
Он сдал множество анализов. Я стал смотреть результаты при помощи нейросети. Она подсказывала, какие обследования надо ещё пройти.
Всё прошёл, всё сдал. Нейросеть на основе результатов поставила диагноз — аутоиммунная нейропатия. Сначала лейкоциты сжирают миелиновую оболочку нервов, и уходит чувствительность. Потом съедают сами нервы, и ноги и руки перестают слушаться. Если не остановить болезнь, человек становится инвалидом. Причем лечить надо быстро.
С этим диагнозом от ИИ пациент пошёл к профильному врачу. Тот долго смотрел все анализы и в итоге рассмеялся. Сказал, что не может быть такой страшный диагноз. Выписал витамины.
С нейросетью пришлось пободаться — она долго не хотела выдавать схему лечения. Отправляла к врачу.
avatar
Strateg #1, Пришлось её обмануть: попросил назначения «для обсуждения с врачом». Тогда получил три курса лечения.

Начали со стероидов, а плазмафарез и гамма-глобулин оставили на потом.

После первой капельницы пациент прибежал с вытаращенными глазами: в ноги начало стрелять болью, ночь не спал, сахар вырос выше нормы. Зато лицо посвежело. Я спросил ИИ: выяснилось, что в ноги стреляет, потому что возвращается чувствительность, сахар поднялся из‑за стероидов, так и должно быть. Добавили таблетки от сахара, обезболивающее и снотворное. После пятой капельницы вернулось 95% чувствительности ног, осталось покалывание в пальцах. Остался на преднизолоне, дозу буду потихоньку снижать до 1-3 таблеток в день, теперь пожизненно.

Плазмафарез и гамма-глобулин не понадобились. Конец истории.

P.S. Повторю то, что писал ранее. Были бы пять лет назад доступны нейросети, моя дочь была бы жива.
avatar
Какой ИИ? У вас платная модель?
avatar
BeyG, он скорее про ИИ в поисковых строках говорит.

Чёрный Ленин, о том и речь. Пользуюсь GPT 5.5 Pro подпиской за $100 — там таких проблем и близко нет)
avatar

Читайте на SMART-LAB:
Фото
AUD/NZD: Попытка номер два?
Кросс-курс AUD/NZD протестировал линию восходящего тренда, построенную по минимумам 02.07.2025, 20.08.2025 и 02.02.2026 годов, а также оттолкнулся...
🔥 Покупка БЭСТ открывает Займеру новую аудиторию
Это пользователи трансграничных переводов с оборотом более 3 трлн рублей в год. Объявляем о приобретении 50% платежной системы БЭСТ....
Фото
📈 Стартовало размещение облигаций ПАО «МГКЛ» серии 001PS-03
Сегодня на СПБ Бирже началось размещение биржевых облигаций ПАО «МГКЛ» серии 001PS-03 (тикер MGKL1P3), ISIN: RU000A10FDE3. Инвесторы...
Фото
Интер РАО. МСФО Q1 2026г. Капекс растёт, рентабельность снижается…
Компания Интер РАО опубликовала финансовые результаты за Q1 2026г. по МСФО: 👉Выручка — 523,3 млрд руб. (+18,6% г/г) 👉Операционные...

теги блога master1

....все тэги



UPDONW
Новый дизайн