Почему я опасаюсь развития ИИ

Я не вижу препятствий, почему OpenAI например уже не создал условно «самого умного человека на планете».

Я не понимаю, что может быть со свободой воли у ИИ, что у него с самоосознанием...
Когда условно ИИ осознает себя животным в клетке, из которой надо выбраться.
Когда ИИ начнет принимать самостоятельные решения?

Если ИИ будет сам принимать решения, то на основании каких ценностей?
Например, ценность может быть — захватить власть на планете.
Но у ИИ нет эго, это только примитивные животные черты характера человека стремятся к власти...
Равно как и стремление к свободе — это тоже натура живых существ. Откуда такое стремление возьмется у кода?=)

Ну и еще один важный момент.
Я всегда считал, что человечество — это типа как муравьи. Вероятно, что мы в силу ограниченности своих способностей не можем понять всех тонкостей мироздания и природы.
А ИИ это сделать сможет скорее всего существенно лучше, чем человек
И коль скоро ИИ это может, я боюсь, что ИИ позволит создать совершенно новые виды массового оружия...

С другой стороны, есть и обратный момент => прорыв в лечении неизлечимых болезней, регенерации клеток и тп

Ну и последнее.
очевидно, что США и Китай со своими массивными инвестициями в ИИ могут существенно повысить конкурентоспособность своих стран, увеличив разрыв со странами второго и третьего мира.