人云国之大事，在祀与戎。兵者，所以惩奸恶而扬王道，卫社稷而保宗庙也，不可不察。而皇秦百年，或有群雄割裂乎疆宇（注曰：郝应、士尚之流），或有胡狄侵盗于徼奥（注曰：鲜卑之属也），或有贼臣篡夺乎神器（注曰：赵氏也），或有禽兽放毒于中原（注曰：鞑靼也）……戎马郊生，兵戈日见，故用师动戎之岁常有，偃旗息鼓之年少寻，以是军兵之事，素为皇朝所重，兹广录制度，以为《军兵志》。
初，先梁既驱逐羯獒（注曰：羯、獒者，梁世之凶胡），遂解军遣士，余留甲伍，兼备耕战（注曰：此先梁之府兵制）。洎乎梁末喧哗，废帝乃革其制，募卒四海，以补军阵。皇秦崛起于烽火之中，战争频仍，于是沿用其法，募兵立饷。凡募为兵者，惟事训练，不务耕织。凡五人为伍，五伍为队，五队为行，五行为营，五营为阵，五阵为军，一军万五千人。中土诸郡则一郡二三阵，边塞诸郡则一郡一军，或有盈缺，因时便宜，匪困制度也。
皇秦恶先梁大将军之权重，以是御军之职，平日鲜设将军，战时则赐节号，非有品级，分别而已。而天下兵马之总帅者，内有太尉，又有兵部，事见《职官志》，太尉别有司马、参军各二员，秩中二千石。而司隶之师，听令校尉（注曰：司隶校尉也），亦见《职官志》。又开国之初，以国用繁杂，遂权设典农校尉、典桑校尉、典盐校尉、典蓄校尉、典水校尉，以专断农桑工商，益利仓廪。后开阳之末，群雄尽灭，天下既平，高帝恶争利于苍生，厌夺业乎万民，乃废“五校尉”。边地有护诸夷之校尉者，因时制设，非为宿法。
又有典军校尉者，高帝所立，统摄禁军，卫守京城，秩中二千石，以郜芝为之。太宗诛讨不孝，奉纂辰极，乃废典军校尉，分禁军为中军、内军，分设中领军、中护军，皆秩中二千石。始以陈瑞为中领军，总督中军，巡警皇城；马境为中护军，总督内军，扞保禁宫。领、护之下又有领军校尉、护军校尉，秩二千石；校尉下有中尉各二员，中千石；中尉下有长史、司马各一人，秩千石。禁军之数少时二万，多时数万，非有定制。
州则有都督，称“都督某州诸兵事”或“都督某州诸军事”。别有南中、西域二都督则见《南蛮类》与《西戎类》，非常官都督，又有乐浪玄菟都督，太宗灭高丽、新罗而置，光宗之时并入幽州府。