Как взломать искусственный интеллект

В процессе обучения нейросати получают большой объем информации.

Как поисковая система.

Были и есть дорвеи, специально сгенерированные под поисковый запрос страницы и сайты.

Суть взлома. В сети размещается много страниц с нужной информацией, например, что такая-то акция, скоро взлетит, такое-то лекарство лечит лучше, такая-то технология решает какие-то задачи.

Использовать можно и чужие домены, на форумах и блогах.

Нейросети эту информацию съедают и используют для ответов пользователям.
Возможна и положительная обратная связь, когда на страницах размещаются уже сами ответы искусственного интеллекта, которые потом служат источниками для обучения как этого же интеллекта, так и других нейросетей.

Ведь информацию про эту компанию, лекарство, технологию человек получит не от какого то неизвестного дорвея или форума (как после перехода из поиска), к которым нет доверия, а от искусственного интеллекта известной компании.

Как думаете?

Добавьте пожалуйста посту до 15 плюсов, чтобы он попал на первую страницу, если вам интересна эта тема.

мобильный пост искусственный интеллект

master1

Изумрудный город

1671

176 646

с 20 августа 2021

25 Комментариев

E L
26 мая 2024, 13:20
www.gazeta.ru/tech/news/2024/05/24/23089183.shtml
0
КриптоУлитка
26 мая 2024, 13:21
Мне кажется, что затраты на размещение информации, которую нужно подсунуть нейросети несравненно больше, чем затраты на то, чтобы разработчик исключил эту лживую информацию из массива для обработки и заставил сеть «забыть» её.
+1
- master1
  26 мая 2024, 13:24
  КриптоУлитка, как отделить?
  0
  - Валерий Калачев
    26 мая 2024, 13:27
    master1, детектор лжи включить
    +1
    - master1
      26 мая 2024, 15:58
      Валерий Осипенко, по каким параметрам?
      0
  - КриптоУлитка
    26 мая 2024, 13:32
    master1, в моём понимании, это всего лишь программа — помесь поискового робота и чат-бота.
    
    Значит можно указать какие-то константы — что, то или иное утверждение, по умолчанию неверно, чтобы не выдавал нам поиск во входящем массиве данных.
    +1
    - master1
      26 мая 2024, 15:56
      КриптоУлитка, вот есть новое лекарство или новая компания. Как определять константы?
      0
      - КриптоУлитка
        27 мая 2024, 00:02
        master1, если это никому не мешает, то никак, пусть бредит. Начнут пользователи или конкуренты жаловаться на недостоверность, придется инженерам подкручивать.
        
        Вон, по словам Медведева, чат-бот от яндекса плохо в некоторых вопросах ориентируется. Явно не из-за того, что поиском пользоваться не умеет.
        
        0
  - КриптоУлитка
    26 мая 2024, 13:34
    master1, вот в комментарии выше, про камни. Если гугл-бот перестанет советовать есть камни, имхо, это не он «научился», это инженеры подкрутили.
    0
    - master1
      26 мая 2024, 15:57
      КриптоУлитка, что там про камни выше?
      0
      - КриптоУлитка
        27 мая 2024, 00:02
        master1, по ссылке из первого комментария
        0
  - ВВШ Free.Solo.
    26 мая 2024, 15:56
    master1, " Как взломать искусственный интеллект" --- увы увы… там нечего ломать. интеллект полностью отсутствует.
    +1
    - master1
      26 мая 2024, 15:58
      ВВШ, генеративный искусственный интеллект.
      0
Хрен Столовый
26 мая 2024, 13:29
Можно на всякие древние темы на форумах где раньше был большой актив постить сгенерированные неиросеткой комментарии о том что через месяц Газпром удвоится, и фиг кто разберётся откуда в неиросети эта дичь
+1
- master1
  26 мая 2024, 15:54
  Хрен Столовый, Газпром сложно, а вот какой неликвид и не обсуждался раньше и ИИ будет отвечать на основе того, что найдет.
  0
22022022
26 мая 2024, 13:33
Так же как любой «интеллект». Без цензуры и без обратной связи на ответы ИИ может посылать, грубить, быть расистом, рекомендовать суицид, итп.
0
deke
26 мая 2024, 13:54
Взял и спалил контору. Теперь ИИ значет твои планы и не будет читать дорвеи.
+1
- КриптоУлитка
  27 мая 2024, 00:03
  deke, ага
  0
Cubigator
26 мая 2024, 14:40
Чтобы сеть её восприняла, такая информация должна доминировать в инфополе.
0
- master1
  26 мая 2024, 15:53
  Cubigator, по узкой теме или вообще по новой теме можно и доминировать
  0
Коперник
26 мая 2024, 19:13
Нейросети прежде всего проверяют информацию на фейковость
А вот люди как раз ведутся
0
- master1
  26 мая 2024, 19:39
  ₽100, как проверят новое лекарство или технологию? На фейковость? Без людей? Да и человек не поймет и даже специалисту пару дней надо.
  0
- КриптоУлитка
  27 мая 2024, 00:04
  ₽100, пфф, серьёзно? И как они это делают?
  0
  - Коперник
    27 мая 2024, 09:39
    КриптоУлитка, по разным показателям можно определить признаки фейковости той или иной новости. Источники, разница во времени публикации, изложение информации, алгоритмов понаделали достаточно, твиттер давно пользуется
    0
    - КриптоУлитка
      27 мая 2024, 09:46
      ₽100, но ТС предлагает такой эксперимент, в котором новость полностью вымышленная и её нет в других источниках. Такое ИА Панорама, только несколько источников, в которых новость полностью фейковая. По какому алгоритму тут определить? Кроме того, получается, что определяет не программа, а инженеры, написав алгоритмы определения.
      
      В первом комментарии ссылка на статью, там приводится пример, когда ИИ от Гугла предлагает пользователям есть камни. Вот, когда инженер заложит информацию в программу, что камни не надо есть — программа это «определит».
      0

Читайте на SMART-LAB:

Денежный рынок vs облигации: фокус смещается

В период роста ключевой ставки Банка России фонды денежного рынка стали весьма популярны. За это время они обеспечили инвесторам высокую доходность при сильной ликвидности. Что же теперь? На фоне...

БКС Мир инвестиций

11:12

УК «Спутник - Управлением капиталом» признана лидером в управлении средствами страховых компаний

Рейтинговое агентство «Эксперт» признало Управляющую компанию «Спутник — Управление капиталом» лидером в сегменте управления резервами и собственными средствами страховых компаний в России....

Ренессанс страхование

11:07

Рынок меняется? Прибыль маркетплейсов, убытки металлургов

«Озон» выходит в прибыль благодаря собственной финансовой экосистеме, МТС-Банк эксплуатирует бизнес-модель хедж-фонда, а «Фикс Прайс» покоряет рынок, где конкуренция «практически невозможна»....

Финам Брокер

11:08

Хэдхантер. Отчет МСФО 25г. “Режет косты“ и ждёт X2 темпов роста по выручке на 26г.

Вышли финансовые результаты по МСФО за Q4 2025г. от компании Хэдхантер: 👉Выручка — 10,47 млрд руб. (+0,4% г/г) 👉Операционные расходы — 5,61 млрд руб. (+0,4% г/г) 👉 Операционная прибыль...