一九二八年一月四日，蒋介石返回南京复职。二月二日。国民党在南京召开二届四中全会，决定对奉军北伐。会上通过了经过修订的《国民政府军事委员会组织大纲》，规定军事委员会隶属国民政府，为国民政府军政最高机关，掌管全国海、陆、空军，负编制、教育、经理、卫生及充实国防之责。此大纲取消了〖主〗席团制，实行〖主〗席制和常委制，总司令是国民政府为战时军令之统一而特令的，凡属国民〖革〗命军之陆海空军，均归其节制指挥，总司令兼军事委员会〖主〗席，对〖中〗央执行委员会和国民政府负责。全会选举产生了军事委员会委员，蒋介石任军事委员会〖主〗席兼国民〖革〗命军总司令。不言而喻，这次领导体制的改变，是为了蒋介石出任军委会〖主〗席而改变。军事委员会下设办公厅、
参谋厅、军政厅、总务厅、经理厅、审计厅、军事教育处、政治训练部等机关。二月七日，二届四中全会推举于右任等七十三人为军事委员会委员，指定于右任、白崇禧、李宗仁、李济深、何应钦、朱培德、程潜、冯玉祥、杨树庄、蒋介石、阎锡山、谭延闿为常务委员。以蒋介石为〖主〗席。三月二十八日，因蒋介石率军队在前线，〖中〗央执行委员会政治会议第一三三次会议议决：在蒋介石前敌期间，〖主〗席职务由李济深代理。六月初，奉系军阀退出关外，北伐完成。同年十一月七日，国民政府明令：“军事委员会着即裁撤，所有该管一切事宜，限十一月十日以前结束，分别移交军政部、参谋部、军事参议院、训练总监部办理”。十一月十日，军事委员会通电报告结束。
而第一阶段国共内战的时期。一九三二年一月二十八日，驻上海日军发动侵华战争，是为“一，二八”事变。国民党〖中〗央政治会议决定恢复设置军事委员会以统摄抗日军事。三月，国民党在洛阳召开四届二中全会，会上通过军事委员会组织案，谓：“军事委员会之设立，其目的在捍御外侮，整理军事，俟抗日军事终了，即撤销之。”据此修订军事委员会组织大纲，规定军事委员会直隶国民政府，为全国最高军事机关。其职掌包括国防绥靖之统率事宜、军事章制、军事教育方针之最高决定、军费支配、军事重要补充之最高审核、军事建设、军队编遣之最高决定、中将及独立任免少将以上任免之审核。军事委员会设委员七至九人，由〖中〗央政治会议选定，由国民政府特任之。三月七日，国民党〖中〗央政治会议推选蒋介石为委员长，推定蒋介石、冯玉、
祥、阎锡山、张学良、李宗仁、陈铭枢、李烈钧、陈济棠为军事委员会委员。此外，根据大纲规定：行政院长汪精卫、参谋总长朱培德、军政部长何应钦、训练总监唐生智、海军部长陈绍宽、军事参议院院长陈调元为当然委员。同年七月十六日，军委会组织大纲作了修正：行政院长不任委员，增加军委会各厅主任为当然委员，即：办公厅主任李济深、第一厅主任唐生智、第二厅主任何应钦、第三厅主任朱培德为军事委员会委员。并由委员中互推三至五人为常务委员，辅助委员长筹划一切事宜，他们是蒋介石、朱培德、李宗仁。一九三三年六月三十日增任马占山、苏炳文，九月五日增任白崇禧为委员。
同年十二月，因陈铭枢参与福建事变，被视夺委员职。军事委员会设置后，为推行“攘外必先安内”政策的需要，其职权日益扩大，除军事外，涉及党、政、财政、教育等领域，为国家的最高决策中心。
其所辖除办公厅和第一、二、三厅外，还辖有参谋本部、训练总监部、
军事参议院、航空委员会、军事长官惩戒委员会、资源委员会、禁烟总会、审计厅、栓叙厅、调查统计局、政训处、防空处、军法处和〖中〗央各军事学校毕业（员）生调查处等。此次军事委员会重设时，国民党称“目的在捍御外侮，整理军事，俟抗日军事终了，即撤销之”。但此后至抗战开始五年有余，国民党不把兵力用于抗日作战，而专事“剿共”内战，实行“攘外必先安内“的反动政策。
一九三五年十二月八日，国民党〖中〗央执行委员会政治委员会决议在军事委员会内增设二名副委员长，并特任阎锡山、冯玉祥为副委员长。
一九三六年一月，蒋介石为增强军事委员会的指挥权能，将委员长南昌行营侍从室扩大为军事委员会侍从室，下分一、二、三处，分掌军事、党政和人事。该机关是蒋介石最高和最重要的幕僚机构，也是蒋介石实行军事首脑个人独裁制的“内廷”机构，它只受委员长个人指挥与运用，对国民政府、五院及其辖属一切机构均具指挥监督之权，而无任何法律依据。为了适应“剿共”和内战的需要。蒋介石以军事委员会委员长的名义，先后在南昌、北平。PS卢州、
武汉、西安、重庆、西昌、成都等地设置行营，作为派出机构，另外又在全国各地设立若干绥靖区，由军事委员会直接指挥当地军政、经济及社会、文教活动。一九三六年六月一日，广东、广西当局以“抗日救国”名义反蒋。七月二十五日，蒋介石为分化两广，特派李宗仁为军委会常务委员。九月六日，免去李宗仁军委会常务委员职，调其任广西绥靖主任，任命白崇禧为军委会常务委员。十二月十二日，西安事变发生，国民党〖中〗央执行委员会决定将军事委员会常务委员增至五至七人，并加推何应钦、朱培德、唐生智、陈绍宽为该会常务委员，军事委员会会议由副委员长冯玉祥及常务委员负责：指挥与调动军队由常务委员、军政部长何应钦负责。一九三七年二月十七日常务委员朱培德死。五月六日，军委会又增加徐永昌、陈调元为常务委员。
抗日战争时期的时候，一九三七年七月七日，侵华日军在卢沟桥肇事，全面抗战爆发。此后，军事委员会成为〖中〗国战时最高领导机构，是事实上的战时政府。八月二十七日，国民党〖中〗央常务委员会授权蒋介石组织大本营，行使陆海空最高统帅权，并对党政统一指挥。但蒋介石以国民政府并未正式对日宣战“不必另设名目，即以军事委员会主持战事可也”。因此，〖中〗央常务委员会乃于九月十七日第五十一次会议中决议：由军事委员会委员长行使陆海空军最高统帅权。并授权蒋介石对党政统一指挥。在军事委员会内取消常务委员制而改行幕僚长制度，设立参谋总长襄助委员长指导军委会所设各部、会、厅并处理一切业务：以副参谋总长辅助参谋总长处理一切业务。在委员长之下”除设参谋总长、副参谋总长之外，另有秘书长、副秘书长各一人。
并设第一部，掌军令：第二部，掌政略：第三部，掌国防工业：第四部，掌国民经济：第五部，掌国际宣传：第六部。掌民众组训。另有管理部、后方勤务部、卫生勤务部、警卫执行部、秘书厅、侍从室等。
随后又相继设立军法执行总监部和农产、工矿、贸易三个调整委员会。同年十一月十六日，国民党中常会第五十九次会议通过非常时期党政军机构整调及人员疏散办法，决定将〖中〗央党部之组织、宣传、训练三部暂归军事委员会指挥：第二部取消，其职掌与总动员有关系者，归〖中〗央宣传部办理：第五部取消，其职掌归〖中〗央宣传部办理：第六部以〖中〗央组织、训练两部并人之。一九三七年底，国民政府和军事委员会迁到武汉办公。国防最高会议常务委员第四十二次会议决议通过军事委员会组织大纲规定，国民政府为战时统辖全国军民作战便利起见，特设军事委员会，直隶于国民政府。同时又对所辖机构作了调整：〖中〗央党部脱离军事委员会而重归于党的系统：第三、第四部合并于经济部及其它有关各部：参谋本部与第一部合并为军令部：第六部与政训部合并为政治部：训练总监部改为军训部。同年二月，又将军事委员会内有关行政附属机关归行政院系统：农产、工矿两调整委员会与资源委员会改隶经济部：农产调整委员会和粮食运销局归并于经济部之农本局：贸易调整委员会、对外贸易委员会及军事委员会委员长重庆行营管辖之禁烟督察处，改隶财政部：农产、工矿、贸易三个调整委员会所设之运输联合办事处改隶交通部三禁烟委员会改归内政部。经此次调整，军事委员会由无所不包的组织，逐渐偏重于军事方面。同年十月下旬，武汉、广州相继失守。十一月，蒋介石在衡山召开军事会议，宣布抗战进入第二期。此后，军事委员会的组织又有扩充。除前述各单位外，增加战地党政委员会、运输统制局、后方勤务部，及海军司令部、抚恤委员会等机构。
一九三八年一月，军委会取消副委员长、常务委员制。同月十五日，任命阎锡山、冯玉祥、李宗仁、程潜、陈绍宽、李济深为委员下设政治部，由陈诚任部长，周恩来任副部长，所属第三厅掌管宣传工作，厅长由郭沫若担任。。同年十二月八日，任命宋哲元为委员。一九四零年四月四日，宋哲元病故。一九四二年三月三日任熊式辉、四月二十五日任卫立煌、六月十七日任万福麟为委员。一九四一年十二月太平洋战争爆发，为加强与世界反德、日法西斯国家的军事联系与合作，又在军事委员会内成立国防外事局。一九四三年春，军委会所属军统局与美国海军情报署合作。成立了中美特种技术合作所，该所利用现代特务武器，屠杀迫害〖革〗命群众与〖民〗主人士，罪行累累，遭到中美两国正义人士的谴责。※十四四年增设兵役部。
抗日战争中，军事委员会委员长一直由蒋介石担任，委员除上述任命者外，还有依据组织大纲所规定的当然委员：参谋总长、军政部长何应钦，副参谋总长、军训部长白崇禧，军令部部长徐永昌，政治部长陈诚（张治中后），军事参议院院长陈调元等。军事委员会在抗日战争时期所指挥的战略单位除各战区、各江防司令部、各防空司令部、各卫戍司令部外，另外还在天水、桂林、汉中、昆明等地设立了委员长行营，在西安、桂林设立了办公厅，在成都、西昌、翰州设立了行辕。为了“限共、溶共和反共”除了保留了抗战前设立的太原、广西、滇矜等绥靖公署等，还设立了川陕鄂、晋陕绥等绥靖主任公署。