Тест Тьюринга - вы всё ещё думаете, что БУДУЩЕЕ где-то там?!

Вы даете какому-то ИИ-индивиду задачу общаться с другими ИИ-индивидом, и в рамках этого общения они должны будут поделить между собой две книги, одну шляпу и три мяча. Вы будете подкреплять баллами их поведение, если им будет удаваться быстро и успешно договариваться.

Именно эту задачу и поставили ботам в 2018 году специалисты отдела Facebook по исследованию возможностей искусственного интеллекта (FAIR). И сначала все шло прекрасно.

ИИ-Боб предлагал ИИ-Алисе: «You get one book and I’ll take everything else» (Тебе — одна книга, а я заберу все остальное).
Алиса отвечала: «No way, I need all 3 hats» (Ну нет, мне нужны все три шапки).
Боб: «I’ll give you 2» (Я дам тебе две).

Но в какой-то момент этот задушевный диалог стал странным образом видоизменяться и наконец превратился в нечто совершенно невообразимое.

Вот фрагмент стенограммы этого разговора двух искусственных интеллектов, «сошедших с ума»:

Bob: i can i i everything else............. .
Alice: balls have zero to me to me to me to me to me to me to me to me to
Bob: you i everything else............. .
Alice: balls have a ball to me to me to me to me to me to me to me
Bob: i i can i i i everything else............. .
Alice: balls have a ball to me to me to me to me to me to me to me

С каждой следующей строкой текст все более и более усложнялся, а масштабы коммуникации между Бобом и Алисой росли буквально в геометрической прогрессии.

Испуганные сотрудники отдела исследований суперспособностей, — ой, простите, — способностей искусственного интеллекта просто вырубили машину от греха подальше.

Последующий анализ показал, что ИИ-индивидуумы, участвующие в этих своеобразных виртуальных торгах, перешли на более удобный для них язык. На кону стояли баллы, которые они могли заработать, а английский язык, как оказалось, не так уж хорош. И боты на ходу придумали свой, категорически непонятный их собственным разработчикам язык.

Лингвисты Пенсильванского университета показали, что новый язык, изобретенный ботами в этих торгах, вовсе не бессмысленен: там, где, как нам кажется, идет повтор фразы, на самом деле меняется порядок слов, и собеседник в своих ответах каждый раз реагирует на эти изменения, что свидетельствует о том, что для него они несут разный смысл.

Проще говоря, два примитивных бота, обменивающиеся, по сути, ничем за ничто, могут воспользоваться друг другом, чтобы этот процесс шел лучше!


Тест Тьюринга — эмпирический тест, идея которого была предложена Аланом Тьюрингом в статье «Вычислительные машины и разум», опубликованной в 1950 году в философском журнале Mind. Тьюринг задался целью определить, может ли машина мыслить.