Ключевые решения, влияющие на жизнь индивида и общества, не должны приниматься с помощью машины, работу которой нельзя интерпретировать или проверить, ибо иное есть передача власти машинам, о чём подробнее написано отдельно (см. «ИИкратия»). Это, по сути, право на объяснение, но касаться оно должно именно критичных случаев. Сомневаюсь, что имеет смысл предъявлять подобное требование к таким вещам, как получение кредита, а вот лечить индивида или принимать важное общественное решение нужно, только предварительно поняв, что происходит.