Именно эту задачу и поставили ботам в 2018 году специалисты отдела Facebook по исследованию возможностей искусственного интеллекта (FAIR). И сначала все шло прекрасно.

ИИ-Боб предлагал ИИ-Алисе: «You get one book and I’ll take everything else» (Тебе — одна книга, а я заберу все остальное).
Алиса отвечала: «No way, I need all 3 hats» (Ну нет, мне нужны все три шапки).
Боб: «I’ll give you 2» (Я дам тебе две).

Но в какой-то момент этот задушевный диалог стал странным образом видоизменяться и наконец превратился в нечто совершенно невообразимое.

Вот фрагмент стенограммы этого разговора двух искусственных интеллектов, «сошедших с ума»:

Bob: i can i i everything else............. .
Alice: balls have zero to me to me to me to me to me to me to me to me to
Bob: you i everything else............. .
Alice: balls have a ball to me to me to me to me to me to me to me
Bob: i i can i i i everything else............. .
Alice: balls have a ball to me to me to me to me to me to me to me