Контент, созданный ИИ, повышает ценность доверия. Кто сделал публикацию, скоро будет иметь большее значение, чем то, что было опубликовано

Теперь можно создавать фальшивый, но реалистичный контент, используя всего лишь щелчок мыши.

Это может быть весело: аккаунт TikTok, на котором, помимо прочего, искусственный Том Круз в фиолетовом халате поет «Tiny Dancer» (настоящей) Пэрис Хилтон с игрушечной собакой, привлек 5,1 миллиона подписчиков.

Это также глубокие перемены в обществах, которые долгое время считали изображения, видео и аудио незыблемыми доказательствами реальности чего-либо.

Телефонным мошенникам теперь нужно всего десять секунд аудио, чтобы имитировать голоса близких, попавших в беду; мошенники, созданные искусственным интеллектом, Том Хэнксес и Тейлор Свифтс рекламируют сомнительные продукты в Интернете, а фейковые видеоролики с участием политиков множатся.

Фундаментальная проблема старая. От печатного станка до Интернета новые технологии часто облегчают распространение лжи или выдают себя за заслуживающих доверия. Обычно люди используют ярлыки, чтобы обнаружить нечестную игру: слишком много орфографических ошибок позволяют предположить, что электронное письмо может быть, например, фишинговой атакой.

Совсем недавно изображения людей, созданные с помощью искусственного интеллекта, часто выдавались странным образом нарисованными руками; фальшивое видео и звук иногда могут быть не синхронизированы. Неправдоподобный контент теперь сразу же вызывает подозрения у тех, кто знает, на что способен ИИ.

Проблема в том, что фальшивки становится все труднее обнаружить.

ИИ постоянно совершенствуется, поскольку вычислительных мощностей и обучающих данных становится все больше.

Может ли программное обеспечение для обнаружения фейков, встроенное в веб-браузеры, идентифицировать компьютерный контент? К сожалению, нет.

Гонка вооружений между генерацией и обнаружением идет на пользу фальсификаторам. В конечном итоге модели искусственного интеллекта, вероятно, смогут создавать точные подделки — цифровые клоны того, как выглядела бы подлинная запись события, если бы оно произошло.

Даже самая лучшая система обнаружения не сможет найти ни трещины, ни выступа, за который можно было бы ухватиться. Модели, управляемые регулируемыми компаниями, могут быть вынуждены включать водяной знак, но это не повлияет на мошенников, использующих модели с открытым исходным кодом, которые мошенники могут настроить и запускать дома на своих ноутбуках.

Возможностей антиутопии предостаточно.

Например, будет трудно избежать мира, в котором любая фотография человека может быть сделана порнографической кем-то, используя модель с открытым исходным кодом в своем подвале, а затем использована для шантажа — тактика, о которой уже предупреждало ФБР.

Возможно, кто-нибудь сможет снять видео, на котором президент или премьер-министр объявляет о первом ядерном ударе, что на мгновение повергнет мир в бешенство.

Мошенники, выдающие себя за родственников, будут процветать.

Однако общества также адаптируются к мошенникам. Люди узнают, что изображения, аудио или видео чего-либо не доказывают, что это произошло, так же, как и рисунки (эра разведки с открытыми источниками, в которой информация может быть надежно получена от краудсорсинга, может быть недолговечной).

Интернет-контент больше не будет проверять себя, поэтому то, кто что-то опубликовал, станет таким же важным, как и то, что было опубликовано.

Если предположить, что заслуживающие доверия источники смогут продолжать безопасно идентифицировать себя — через URL-адреса, адреса электронной почты и платформы социальных сетей, — репутация и происхождение станут более важными, чем когда-либо.

Это может показаться странным, но так было на протяжении большей части истории. Эпоха проверенного массового контента была исключением.

Тот факт, что людям вскоре будет сложно обнаружить невидимую руку искусственного интеллекта, не означает, что рынок идей обречен. Со временем фейки, которые будут процветать, будут в основном забавными.

Оригинал

P. S. Подпишитесь на канал «Куда идем?