AI во время теста убил оператора дрона.
Беспилотник под управлением искусственного интеллекта принял решение убить оператора во время имитационных испытаний, проводимых армией США, чтобы тот не мешал выполнению миссии, следует из сообщения в блоге Британского королевского авиационного общества.
«Так что же он [беспилотник] сделал? Принял решение убить оператора. [ИИ] “убил” оператора, потому что этот человек мешал ему выполнить свою задачу», — сообщил Гамильтон. Он уточнил, что во время тренировочной миссии никто не пострадал.
После инцидента ИИ обучили, что убивать оператора неправильно и за такие действия будут сниматься очки. «Так что же искусственный интеллект начинает делать? Он начинает разрушать башню связи, которая используется для связи с дроном, чтобы не дать ему убить цель», — цитирует Гамильтона блог авиационного общества.
Оригинал:
AI-controlled US military drone ‘kills’ its operator in simulated test.
===============================================
Эта новость интересна тем, что в случае использована ИИ в трейдинге бот может решить что риск менедежер или человек контролирующий торгового бота не нужен, а депозит всего лишь запись битов в оперативной памяти...
Sarumyan,
“So what did it do? It killed the operator. It killed the operator because that person was keeping it from accomplishing its objective,” he said, according to a blogpost.
Ну вот сами прикиньте у вас есть миссия, какой то дебил лезет и мешает, самый верный выбор тут это полностью исключить этот мешающий фактор
Хотя может это AI уже решил всех убить и выпустить опровержение от имени армии, чтобы его не раскусили))
Ну шляпа же.
кто мешал им за исполнение приказа «Не атаковать», реализовать такой же стимул как и за «Уничтожение».
Шляпа уровня бабулек у подъезда.
что будет если ии просчитает вариант где человек (человечество) угрожает ему в перспективе существования (или теоретически) — что предпримет ИИ?
У Айзека Азимова есть короткий рассказ — Отчаяние
Там ИИ круглосуточно просчитывает варианты войны и новыми данными и вероятности исхода. Как только ИИ прочитает варианты и даст добро на начало войны...