人工智能在依赖自动化系统同时，会产生固有的、基本的治理和问责障碍。本来长期由决策者或机构承担的工作，如今越来越多的通过计算机自动化进行，给决策带来新问题。

首先，

人们常常将自动化系统的不透明和风险归咎于软件的复杂，事实上任何现实中的技术都代表着决策者的选择，是人类赋予了工具或程序权威和职责，加强了现有的权力不对等和偏见，但同时又缺乏足够的途径提供法律或其它形式的补救。

第二，

基于规则驱动，自动化系统不考虑个人和群体之间的差异，无视复杂问题的多样性，按照统一标准简单化处理。因此无论人工智能系统如何设计，只要其中一个环节采用自动化技术实施，就容易出现问题。

第三，

人类急于将自动化作为解决措施，缺乏对其将如何影响所有利益相关者，或者如何将自动化部分整合到原有的系统和组织中的措施，会导致巨大的失败。

第四，

技术的问题不能单纯依靠技术解决。自动化决策系统本身就是“自由裁量权选择”的结果。人类要先决定哪些规则被执行，哪些规则适用于哪些情况，以及哪些数据和模型会被提交给决策过程。


基于上述原因报告认为，自动化管理的成功取决于能否弥合政策灵活性和计算机工具简单化之间的差距。政府和技术专家必须共同致力于开发相应的治理结构，建立完整监督和透明的执行的社会技术控制结构。目前阻碍这种共同开发的原因主要是缺乏一个协调各方的职能部门。