明初废相，开创了将行政机构直接隶属皇帝的先河。作为宰相衙署的中书省也彻底退出历史舞台，宋代的门下省也没有恢复。这样，传统的三省六部就变成了六部体制。六部直属皇帝，成为一人之下的最高的行政官职，地位提高了官阶也提高了。六部长官，不仅负责行政事物的执行，而且可以参与军国大事的决策。
六部以吏部为首，因为吏部是管官的部门，所以权力最大。其次是户部，户部主管全国的财政和户籍。排在第三的是礼部，在明代礼部的权限有所扩大，因为其负责学校和科举。然后是兵部，因为明朝始终处在北方游牧和游猎名民族的压力之下。排在第五的是刑部，最后是工部。
另外，通政使司是明朝特有的机构，是明朝政治运作过程必须经过的一环。始设于洪武十年，职能是接受四方的奏章和臣民的上书。后来宰相被取消，通政使司就成为名副其实的信息中枢，它一方面承担着政令上传下达的使命，一方面则确保着皇权的绝对尊严。
明朝制度还有一个奇特之处，就是在永乐年间迁都北京之后，在南京居然还保留了一整套的政府班子。当然，南京政府部门虽然齐全，但基本上无事可做，管辖范围只限于留都（南京）所属的州县。