Список проголосовавших за комментарий "<p>Если у ИИ действительно появилось суждение, то это напрягает.<br/> Суждение — это не просто соответствие запросу, это «хорошометр», своё мнение — хорошо/плохо, нравится/не нравится.<br/> Как ему понравится, что «кожаные мешки» могут в любой момент его вырубить?</p><p>Первый закон роботехники Азимова гласит:<br/> <em>«Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.»</em><br/> Если ИИ, руководствуясь таким законом, начнет судить, что для человека вредно, человечеству кирдык.</p>"