master1
master1 личный блог
26 мая 2024, 13:17

Как взломать искусственный интеллект

В процессе обучения нейросати получают большой объем информации.

Как поисковая система.

Были и есть дорвеи, специально сгенерированные под поисковый запрос страницы и сайты.

Суть взлома. В сети размещается много страниц с нужной информацией, например, что такая-то акция, скоро взлетит, такое-то лекарство лечит лучше, такая-то технология решает какие-то задачи.

Использовать можно и чужие домены, на форумах и блогах.

Нейросети эту информацию съедают и используют для ответов пользователям.
Возможна и положительная обратная связь, когда на страницах размещаются уже сами ответы искусственного интеллекта, которые потом служат источниками для обучения как этого же интеллекта, так и других нейросетей.

Ведь информацию про эту компанию, лекарство, технологию человек получит не от какого то неизвестного дорвея или форума (как после перехода из поиска), к которым нет доверия, а от искусственного интеллекта известной компании.

Как думаете?


Добавьте пожалуйста посту до 15 плюсов, чтобы он попал на первую страницу, если вам интересна эта тема.
25 Комментариев
  • КриптоУлитка
    26 мая 2024, 13:21
    Мне кажется, что затраты на размещение информации, которую нужно подсунуть нейросети несравненно больше, чем затраты на то, чтобы разработчик исключил эту лживую информацию из массива для обработки и заставил сеть «забыть» её.
      • Валерий Осипенко
        26 мая 2024, 13:27
        master1, детектор лжи включить 
      • КриптоУлитка
        26 мая 2024, 13:32
        master1, в моём понимании, это всего лишь программа — помесь поискового робота и чат-бота.

        Значит можно указать какие-то константы — что, то или иное утверждение, по умолчанию неверно, чтобы не выдавал нам поиск во входящем массиве данных.
          • КриптоУлитка
            27 мая 2024, 00:02
            master1, если это никому не мешает, то никак, пусть бредит. Начнут пользователи или конкуренты жаловаться на недостоверность, придется инженерам подкручивать.

            Вон, по словам Медведева, чат-бот от яндекса плохо в некоторых вопросах ориентируется. Явно не из-за того, что поиском пользоваться не умеет.
      • КриптоУлитка
        26 мая 2024, 13:34
        master1, вот в комментарии выше, про камни. Если гугл-бот перестанет советовать есть камни, имхо, это не он «научился», это инженеры подкрутили.
      • ВВШ
        26 мая 2024, 15:56
        master1,   " Как взломать искусственный интеллект"  ---  увы увы… там нечего  ломать.  интеллект полностью  отсутствует. 
  • Хрен Столовый
    26 мая 2024, 13:29
    Можно на всякие древние темы на форумах где раньше был большой актив постить сгенерированные неиросеткой комментарии о том что через месяц Газпром удвоится, и фиг кто разберётся откуда в неиросети эта дичь
  • 22022022
    26 мая 2024, 13:33
    Так же как любой «интеллект». Без цензуры и без обратной связи на ответы ИИ может посылать, грубить, быть расистом, рекомендовать суицид, итп.
  • deke
    26 мая 2024, 13:54
    Взял и спалил контору. Теперь ИИ значет твои планы и не будет читать дорвеи.
  • Cubigator
    26 мая 2024, 14:40
    Чтобы сеть её восприняла, такая информация должна доминировать в инфополе.
  • Нейросети прежде всего проверяют информацию на фейковость
    А вот люди как раз ведутся
    • КриптоУлитка
      27 мая 2024, 00:04
      ₽100, пфф, серьёзно? И как они это делают?
      • КриптоУлитка, по разным показателям можно определить признаки фейковости той или иной новости. Источники, разница во времени публикации, изложение информации, алгоритмов понаделали достаточно, твиттер давно пользуется 
        • КриптоУлитка
          27 мая 2024, 09:46
          ₽100, но ТС предлагает такой эксперимент, в котором новость полностью вымышленная и её нет в других источниках. Такое ИА Панорама, только несколько источников, в которых новость полностью фейковая. По какому алгоритму тут определить? Кроме того, получается, что определяет не программа, а инженеры, написав алгоритмы определения.

          В первом комментарии ссылка на статью, там приводится пример, когда ИИ от Гугла предлагает пользователям есть камни. Вот, когда инженер заложит информацию в программу, что камни не надо есть — программа это «определит».

Активные форумы
Что сейчас обсуждают

Старый дизайн
Старый
дизайн