Ho_Chu, Теперь понял. Но вы так преподнесли это, что как будто от себя.
Но если вас тоже это настораживает, это уже хорошо. Значит вы на стороне вменяемого рассудка.
Комментарии к постам Ho_Chu
Если у ИИ действительно появилось суждение, то это напрягает.
Суждение — это не просто соответствие запросу, это «хорошометр», своё мнение — хорошо/плохо, нравится/не нравится.
Как ему понравится, что «кожаные мешки» могут в любой момент его вырубить?
Первый закон роботехники Азимова гласит:
«Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.»
Если ИИ, руководствуясь таким законом, начнет судить, что для человека вредно, человечеству кирдык.