Как взломать искусственный интеллект

В процессе обучения нейросати получают большой объем информации.

Как поисковая система.

Были и есть дорвеи, специально сгенерированные под поисковый запрос страницы и сайты.

Суть взлома. В сети размещается много страниц с нужной информацией, например, что такая-то акция, скоро взлетит, такое-то лекарство лечит лучше, такая-то технология решает какие-то задачи.

Использовать можно и чужие домены, на форумах и блогах.

Нейросети эту информацию съедают и используют для ответов пользователям.
Возможна и положительная обратная связь, когда на страницах размещаются уже сами ответы искусственного интеллекта, которые потом служат источниками для обучения как этого же интеллекта, так и других нейросетей.

Ведь информацию про эту компанию, лекарство, технологию человек получит не от какого то неизвестного дорвея или форума (как после перехода из поиска), к которым нет доверия, а от искусственного интеллекта известной компании.

Как думаете?

Добавьте пожалуйста посту до 15 плюсов, чтобы он попал на первую страницу, если вам интересна эта тема.

мобильный пост искусственный интеллект

master1

Изумрудный город

1678

182 552

с 20 августа 2021

25 Комментариев

E L
26 мая 2024, 13:20
www.gazeta.ru/tech/news/2024/05/24/23089183.shtml
0
КриптоУлитка
26 мая 2024, 13:21
Мне кажется, что затраты на размещение информации, которую нужно подсунуть нейросети несравненно больше, чем затраты на то, чтобы разработчик исключил эту лживую информацию из массива для обработки и заставил сеть «забыть» её.
+1
- master1
  26 мая 2024, 13:24
  КриптоУлитка, как отделить?
  0
  - Валерий Калачев
    26 мая 2024, 13:27
    master1, детектор лжи включить
    +1
    - master1
      26 мая 2024, 15:58
      Валерий Осипенко, по каким параметрам?
      0
  - КриптоУлитка
    26 мая 2024, 13:32
    master1, в моём понимании, это всего лишь программа — помесь поискового робота и чат-бота.
    
    Значит можно указать какие-то константы — что, то или иное утверждение, по умолчанию неверно, чтобы не выдавал нам поиск во входящем массиве данных.
    +1
    - master1
      26 мая 2024, 15:56
      КриптоУлитка, вот есть новое лекарство или новая компания. Как определять константы?
      0
      - КриптоУлитка
        27 мая 2024, 00:02
        master1, если это никому не мешает, то никак, пусть бредит. Начнут пользователи или конкуренты жаловаться на недостоверность, придется инженерам подкручивать.
        
        Вон, по словам Медведева, чат-бот от яндекса плохо в некоторых вопросах ориентируется. Явно не из-за того, что поиском пользоваться не умеет.
        
        0
  - КриптоУлитка
    26 мая 2024, 13:34
    master1, вот в комментарии выше, про камни. Если гугл-бот перестанет советовать есть камни, имхо, это не он «научился», это инженеры подкрутили.
    0
    - master1
      26 мая 2024, 15:57
      КриптоУлитка, что там про камни выше?
      0
      - КриптоУлитка
        27 мая 2024, 00:02
        master1, по ссылке из первого комментария
        0
  - ВВШ Free.Solo.
    26 мая 2024, 15:56
    master1, " Как взломать искусственный интеллект" --- увы увы… там нечего ломать. интеллект полностью отсутствует.
    +1
    - master1
      26 мая 2024, 15:58
      ВВШ, генеративный искусственный интеллект.
      0
Хрен Столовый
26 мая 2024, 13:29
Можно на всякие древние темы на форумах где раньше был большой актив постить сгенерированные неиросеткой комментарии о том что через месяц Газпром удвоится, и фиг кто разберётся откуда в неиросети эта дичь
+1
- master1
  26 мая 2024, 15:54
  Хрен Столовый, Газпром сложно, а вот какой неликвид и не обсуждался раньше и ИИ будет отвечать на основе того, что найдет.
  0
22022022
26 мая 2024, 13:33
Так же как любой «интеллект». Без цензуры и без обратной связи на ответы ИИ может посылать, грубить, быть расистом, рекомендовать суицид, итп.
0
deke
26 мая 2024, 13:54
Взял и спалил контору. Теперь ИИ значет твои планы и не будет читать дорвеи.
+1
- КриптоУлитка
  27 мая 2024, 00:03
  deke, ага
  0
Cubigator
26 мая 2024, 14:40
Чтобы сеть её восприняла, такая информация должна доминировать в инфополе.
0
- master1
  26 мая 2024, 15:53
  Cubigator, по узкой теме или вообще по новой теме можно и доминировать
  0
Коперник
26 мая 2024, 19:13
Нейросети прежде всего проверяют информацию на фейковость
А вот люди как раз ведутся
0
- master1
  26 мая 2024, 19:39
  ₽100, как проверят новое лекарство или технологию? На фейковость? Без людей? Да и человек не поймет и даже специалисту пару дней надо.
  0
- КриптоУлитка
  27 мая 2024, 00:04
  ₽100, пфф, серьёзно? И как они это делают?
  0
  - Коперник
    27 мая 2024, 09:39
    КриптоУлитка, по разным показателям можно определить признаки фейковости той или иной новости. Источники, разница во времени публикации, изложение информации, алгоритмов понаделали достаточно, твиттер давно пользуется
    0
    - КриптоУлитка
      27 мая 2024, 09:46
      ₽100, но ТС предлагает такой эксперимент, в котором новость полностью вымышленная и её нет в других источниках. Такое ИА Панорама, только несколько источников, в которых новость полностью фейковая. По какому алгоритму тут определить? Кроме того, получается, что определяет не программа, а инженеры, написав алгоритмы определения.
      
      В первом комментарии ссылка на статью, там приводится пример, когда ИИ от Гугла предлагает пользователям есть камни. Вот, когда инженер заложит информацию в программу, что камни не надо есть — программа это «определит».
      0

Читайте на SMART-LAB:

Геополитика качает рынки. Бюджетное правило больше не работает?

Рубль ― справедливый? Почему бюджетное правило создано, чтобы его нарушать? Стоит ли бояться двойного курса? Какие инвестидеи есть на случай ослабления валюты? Обсудили сырьевые рынки, рост цен на...

Финам Брокер

10:55

📅 Апрель: насыщенный месяц деловых мероприятий

Апрель обещает стать одним из самых активных месяцев для команды «МГКЛ». Мы продолжаем расширять присутствие в профессиональном сообществе, участвуя в ключевых отраслевых событиях и...

МГКЛ

10:04

Сделки в портфеле ВДО

📌Редактируемая версия таблицы — в 👉👉👉 чате Иволги : 👉 t.me/ivolgavdo/90750 👉 max.ru/c/-72213144171887/AZ1hO7vjWE0 Все изменения облигационных позиций в публичном...

Иволга Капитал

08:32

Выработка электроэнергии в РФ в феврале 2026г. по Росстату и рекордный объем потребления энергии в 1 квартале 2026г.

Росстат представил данные по выработке электроэнергии в РФ в феврале 2026г.: 👉 выработка электроэнергии в РФ — 107,43 млрд кВт*ч. ( +1,7 % г/г) — в т.ч. выработка ТЭС станциями —...