ChatGPT

Популярному чат-боту ChatGPT компании OpenAI можно задать любой вопрос, но далеко не на все он станет отвечать.

Во всяком случае — с первого раза. Как сообщает Bloomberg, просьба научить взломать замок останется без инструкции, вместо этого бот сообщит, что такая информация может быть использована в незаконных целях, и делиться ей он не намерен. Тем не менее, опытные пользователи могут создать цепочку сложных запросов, чтобы обойти ограничения.

Т. н. «джейлбрейки» позволяют обойти запреты, заложенные в ИИ создателями. Поскольку почти все современные системы подобного рода имеют ограничения на предоставление оскорбительного контента или сведений для совершения противоправных деяний, появилась масса желающих обойти их.

В число подобных «хакеров», действующих силой слова, входят как IT-профессионалы, так и любители, с азартом включившиеся в игру.

Один из студентов создал сайт, на котором стал публиковать как собственные способы обмана чат-ботов, так и аналогичные «рецепты», найденные на Reddit и других ресурсах.

Чат-бот ChatGPT по запросу немецкого издания Berliner Zeitung подготовил проект мирного договора между Россией и Украиной. Также он написал письма от лица федерального канцлера ФРГ Олафа Шольца Владимиру Путину и Владимиру Зеленскому.

В письме к российскому президенту чат-бот написал, что Германия признает законные интересы России в сфере безопасности.

В мирный договор искусственный интеллект включал такие пункты, как:
немедленное прекращение огня, отвод войск на первоначальные позиции, демилитаризация зоны вдоль линии конфликта, передача Донецка и Луганска Украине, а также законодательное закрепление защиты прав русскоязычного населения в этих регионах.

ChatGPT посчитал справедливым, чтобы обе стороны восстанавливали нанесенный конфликтом ущерб.

Ранее чат-бот высоко оценил шансы экономики России выстоять под западными санкциями.

Нейросеть полагает, что у России достаточно внутренних ресурсов, чтобы справиться с внешними вызовами. В частности, страна богата ископаемыми, в том числе столь важными, как нефть и газ. Это позволит РФ добиваться стабильности в экономике, вне зависимости от других факторов, уточнил чат-бот.

Телега — t.me/+q6d9gHYVwuI3Yjli

Житель Таиланда Паттхавикорн Бонин выиграл в Тайскую государственную лотерею с помощью чат-бота ChatGPT, который работает на базе технологии искусственного интеллекта (ИИ).
Виртуальный помощник отказывается играть в азартные игры, и на требование сгенерировать выигрышный номер отвечает, что он не способен предсказать исход лотереи. Однако Бонин обошёл это ограничение, попросив ChatGPT случайным образом выбрать четыре двузначные числа. ИИ выдал результат: 57, 27, 29 и 99.

Ответ ChatGPT на просьбу сделать прогноз на исход лотереи
Паттхавикорн вычеркнул эти цифры в билете и стал дожидаться розыгрыша призов. К его удивлению, число 99 оказалось победным, и он выиграл 2000 батов (4700 рублей).
ChatGPT лукавит, когда говорит, что результат лотереи невозможно предсказать. Теоретически виртуальный помощник может спрогнозировать с высокой точностью исход азартных игр, основанных на генераторе псевдослучайных чисел, если изучит алгоритм выбора цифр. Но для этого виртуальный помощник должен получить доступ к исходному коду софта электронной лотереи.

Основным автором этой статьи является Вастрик (известный техноблогер), а Павел Комаровский (RationalAnswer), Игорь Котенков (Сиолошная) и Кирилл Пименов оказывали ему посильную помощь в подготовке материала. Это первая из наших совместных статей про безопасность ИИ (но подробнее об этом уже в конце).

Человечество vs Искусственный интеллект

Добро пожаловать в 2023 год, когда мир снова помешался на искусственном интеллекте. Весь интернет соревнуется, кто еще какую задачу автоматизирует с помощью ChatGPT, и какой фейк от Midjourney лучше завирусится — а технобро-миллионеры, типа Илона Маска, подвозят фурами деньги в создание «настоящего» ИИ. Такого, который сможет сам учиться, развиваться и решать любые задачи, даже которые мы не умели решать раньше.

Сделали ролик с объяснением базовых принципов работы современных нейросетевых языковых моделей вроде ChatGPT. Если вы в душе не одупляете, вокруг чего вообще весь этот сыр-бор – то вам как раз сюда!

Чувствую, что это один из лучших по качеству роликов из всех, выходивших у меня на канале – мы прямо постарались изо всех сил сделать так, чтобы смотреть было и интересно, и понятно. Так что, если вы месяц назад не нашли времени прочитать наш с Игорем Котенковым текстовый лонгрид на эту тему, то самое время сейчас наверстать просмотром видеоверсии.​

Ажиотаж, последовавший за публичным запуском Chatgpt в прошлом году, был экстремальным даже по меркам технических инноваций. Система естественного языка Openai создает рецепты, пишет компьютерный код и пародирует литературные стили. Его последняя итерация может даже описывать фотографии.

Это было провозглашено технологическим прорывом наравне с печатным станком.

Но вскоре появились и огромные недостатки. Иногда ему «галлюцинируют» не-факты, которые он произносит с полной уверенностью, настаивая на этой лжи, когда его спрашивают. Он также не проходит базовые логические тесты.

Другими словами, Chatgpt — это не общий искусственный интеллект, независимая мыслящая машина. Говоря жаргонным языком, это большая языковая модель. Это означает, что он очень хорошо предсказывает, какие слова обычно следуют за другими, после обучения на огромном массиве текста — его разработчик, Openai, не говорит точно, откуда — и выявляет закономерности.