Список проголосовавших за комментарий "Karkoon, Что мы хотим от того, кто управляет нами? Что бы этот управляющий придерживался определённых принципов, ставил при принятии решений в приоритет определённые вещи. Весь вопрос в том кто при принятии решений с меньшей вероятностью отойдёт от желаемых нами приоритетов: компьютерный алгоритм или человек.<br/> Я верю, что человеческий интелект работает по какому-то строго заданному алгоритму. Отличие от него современных компьютерных алгоритмов, в том числе тех, что именуются искуственным интелектом, в том, что компьютерные алгоритмы проще. проще, значит предсказуемее. Проще и предсказуемее, значит с меньшей вероятностью отойдут от заданных приоритетов. Мы можем дать компьютерному алгоритму возможность принять решение — проанализировать его результат, внести изменения, если необходимо. Потом усложнить алгоритм. И так далее. Когда нибудь, компьютерный алгоритм дорастёт по сложности до уровня человеческого разума. Только это будет управляемое и понятное человеку дорастание. А отдать право принятие решений человеку сейчас — это значит отдать право принятия решений сразу сложному алгоритму, механизм действия которого мы не понимаем.<br/> Ты вот написал, что открытость алгоритмов ничего не даст, а про людей ты дохера знаешь. Отчасти я это понимаю. Но ответь на вопрос. Было принято какое-то решение. Мы должны понять почему принимающий это решение принял именно это решение а не какое-то другое. В какому случае для нас будет проще это понять, если решение принимал современный компьютерный алгоритм, или если решение принимал человек?<br/> У самообучающейся программы есть известные нам принципы работы и открытые для нас накопленные данные. Если тебе не нравится слово «алгоритм» применяющееся по отношению к интелекту, замени его везде на «принциппы работы», например."