618年，李渊入长安，下令沿用隋府兵制。贞观十年（636），唐太宗对府兵制进行调整，设立十二卫和太子东宫六率为府兵的中央管理机关。唐代中央官署因在南衙办公，故称南衙或南司，十二卫属南衙，由宰相负责，所以又称为南衙禁军。而元从、羽林等禁军起初设有专门机构，多由皇帝通过宦官或武官亲领。宦官居禁苑内，与南衙相对，故称北衙。禁军常屯驻北门，所以称为北衙禁军，主要负责皇宫宿卫。皇帝通过后部掌握了十二卫与六率所统府兵的发兵权，从而加强了对军队的控制。这对维护封建中央集权国家的安全与稳定有着至关重要的作用。因此，南北衙的建立也标志着封建军事管理制度的成熟与完善。