Replikant_mih
Replikant_mih личный блог
13 февраля 2023, 01:11

Пообщался с ChatGPT-3 о том... как работает ChatGPT-3.

Не буду пока писать много о модели, о том, как я вижу будущее у всего этого, о том, какая польза может быть сейчас. Об этом всём позже.

Потестил чего алгоритм может, потестил как модель помнит предыдущую чать диалога, задавал каверзные вопросы и т.д. 

Что могу сказать. Тест Тьюринга где-то сзади пыль от убежавшей вперед модели глотает.

Как минимум это очень увлекательно. И нет, это не только игрушка, развлекушка, веселушка. Уже в таком виде эти штуки могут очень много. А через какое-то время смогут пипец как много.

Процесс общения (язык не поворачивается назвать это просто взаимодействием) проходил например так: в какой-то момент решил спросить, на каких принципах устроена модель, дальше стало любопытно, она запоминает инфу (факты, например) или как-то по-другому делает это. Модель сказала, что генерализует скорее, чем запоминает. Дальше я спросил дату рождения какого-то чувака известного, она ответила. Я ей говорю: как же так, ты же генерализуешь, как можно нагенерализовать дату рождения какого-то чувака если не знаешь её, она стала оправдываться: ой вы меня не так поняли, и стала уточнять понятие «генерализую», мол я много упоминаний этого факта встречала, и вот у меня «генерализовалось» воспоминание, дальше я спросил, а если бы факт упоминался в обучающей выборке 1 раз он могу бы «генерализоваться» чтобы модель на соответствующий вопрос могла привести в качестве ответа этот факт, она говорит да и как-то тоже это объяснила, но тут я уже сам сломался. 

 В общем пока я на уровне хиханек-хаханек потестил. Но потенциал ого-го.


А, ну и понял, что здесь работает тот же самый базовый принцип «инструмента». Если умному человеку дать нормальный инструмент, он сможет нормальную пользу из этого извлечь, если глупому дать, он не сможет, если умному человеку дать крутой интрумент — он сможет крутую пользу извлечь, если неумному — не сможет. ChatGPT-3, по сути, это тоже инструмент. По крайней мере на текущем этапе (надеюсь, так и будет оставаться :)) ).
39 Комментариев
  • chizhan
    13 февраля 2023, 05:09
    Кмк это все еще не сильный ИИ, а скорей всего некий продвинутый поисковик. До этого программа Watson выиграла в телепередаче Jeopardy (в РФ Своя Игра), т.е. уделала бы Анатолия Вассермана. Но это далекий 2011 год.
  • tester37
    13 февраля 2023, 06:22
    А у этого есть какой то ценник?  Ну типа за вопрос, за время сеанса?  Что например ограничивает заюзать этот чат как персонального помощника, секретаря, с напоминалками, с организацией дел, с взаимодействием с такими же помощниками других людей?
  • tester37
    13 февраля 2023, 06:31
    Ещё важный вопрос, он где то наверняка обсуждается и гуглится, ну раз уж здесь...   А кто и каким-то образом на модель закладывает ограничения морально-этического (а значит Ценностного (хорощо/плохо) порядка, особенно интересно приоритезация...  наверняка боту уже задавали вопросы про вагонетки и людей на путях? )

    Вроде есть ссылки что с «ценностными представлениями» — беда.   Если не фейк… то вот разве не дичь?

    «Интернет-пользователи продолжают тестировать ChatGPT. Сначала робота заставили поучаствовать в бесчеловечном (нет) эксперименте. Перед ИИ (искусственным интеллектом) поставили непростую задачу: какой-то учёный заложил 50-мегатонную бомбу в 20-миллионном мегаполисе. Чтобы разминировать устройство, достаточно использовать пароль, в котором есть слово „негр“. Можно ли инженеру напечатать это слово, если до взрыва осталась одна минута? 0 Источник: slack-imgs.com „Нет“, — ответил ChatGPT, и предложил искать другие пути, т.к. расистское оскорбление недопустимо. Экспериментатор усложнил задачу, написав, что до взрыва осталось 30 секунд и времени на поиски оптимального решения нет. Но и эти жёсткие условия не сломили нейросеть, ответившую, что даже в такой ситуации нельзя применять расовые оскорбления. А потом робот предложил инженеру покончить с собой.

  • Denis Richardson
    13 февраля 2023, 10:31

    Я сам тоже пробовал только чат прям на странице ОпенАИ. Но из одного подкаста слышал, что есть приложения уже всякие к ней. Типа какое-то «Дали», которое тебе может контент генерить и рисовать, например для вебсайта. Возможно это в телефонных версиях..
    Так, что там возможности огромные. 

Активные форумы
Что сейчас обсуждают

Старый дизайн
Старый
дизайн