到了北周，那时鲜卑部族兵已不够用，拉来壮丁又不行，募兵又要长期消耗国家军饷，遂改行“府兵制”。选择有家业的壮丁，令其长期当兵。有事出征，平居则自耕自养。当时户口分上、中、下三等九级，下等三级人是不准当兵的，只上、中二等六级户口可服兵役。当了兵，一切田租捐税均豁免。北周终于凭藉此府兵制度统一了全中国。唐代因之不改，亦因府兵制度而创立下极伟大的武功。府兵是凡兵皆农，与汉代之全农皆兵，同为“兵农合一”，而北周、唐代的府兵制则更为合理。当兵的都有相当田地，家业穷苦的农民，不得充兵役，如是则兵员素质，无论在智识上、体格上、品德上，皆无形提高，而且较为整齐。较之募兵制度自更优越了。签丁兵不容说，中国户口盛，实在也不需全农皆兵。
所谓府兵之“府”，与地方行政划开，专择战略要点设立，非边防冲要不需要用兵的地区，便根本不需要设立府兵。当时每府有一支军队，小则八百人，多则一千二百人。据统计：全国最高可能约八百府，共可得八十万军队，分配在各战略要点，实际已足够应用了。而国家则无需分文军饷。因府兵有田亩自给，中央只派几个教练官就农隙督教。及遇出征，某一府兵阵亡了，申报到政府，即由政府派人去其家唁慰，并致送抚恤金，赐予爵位。府兵都是有身家的，都知自爱，都能忠勇奋发，以此屡立奇功。将军在中央供职，无官有勋。作战时带兵赴敌，战事完了，兵归府，将回中央，亦绝没有军人干政之事。可见唐代武功和当时制度有关。