При использовании ИИ последнее слово за человеком?

Например, надо перемножить 123456789 на 987654321. Результат ИИ может быть верен (или нет?), но если в данном случае у человека есть принципиальное представление, как этот результат получен, то в реальных случаях у человека нет ни малейшего понятия, откуда взялся результат.
Например, принять или не принять на службу конкретного соискателя должности, или жениться или не жениться на конкретной барышне.
Не имея даже принципиальной возможности оценить обоснованность решения ИИ, человек принимающий решение оказывается в той же ситуации, что и без консультации с ИИ.