一战
1917年4月6日美国向德国宣战，站在协约国一边参加了已延续三年的第一次世界大战。塞伯特将军组建陆军第1步兵师，调任马歇尔任参谋部临时中校衔参谋。第1步兵师在潘兴将军的美国远征军编内，最先在法国登陆。
在法国前线，作为师参谋部参谋，他的任务是向师指挥所报告前沿阵地的请况，检查部署和给养状况，维持部队士气。他执行任务一丝不苟，大部分时间是在前沿战壕里。他常常一人徒步巡视阵地。马歇尔因在前沿阵地表现出SE，被提升为临时上校，并调入设在肖蒙的美国远征军总参谋部。
1918年11月，第一次世界大战以德国战败而告终。美国远征军总司令潘兴成为美国和欧洲的英雄。马歇尔被调到这位总司令的身边，当他的助手。他陪潘兴在巴黎参加了一系列的庆祝活动。
和平岁月
1919年9月1日，马歇尔随潘兴将军凯旋美国。得胜回朝的将士们受到一片热烈的欢迎之后，一切归于平静。马歇尔战时临时上校被取消，仍当他的上尉。他留在了潘兴手下任职，不久晋升为正式少校。这次晋升并未使他高兴，只是使他感慨，他当了整整18年的军官，还只是少校而已。
1921年8月，潘兴将军出任陆军参谋长。马歇尔作为首席助手随他到华盛顿赴任。这次他又升了一级，领中校军衔。1923年潘兴任满离职。马歇尔决定到野战部队任职，以充实自己。1924年秋，他被派到美国驻中国天津(时值北洋政府时期)的第15步兵团副团长。1926年底，他被任命为陆军学院教官，返回华盛顿。1927年11月，他的妻子病逝。
本宁堡步校是美国陆军最大的军事学校，坐落在佐治亚州哥轮布市数英里之外。马歇尔是出SE的教官，能够三言两语概括复杂的军事问题。他对学员要求很严格。他督促他们，鼓舞他们，机发他们的热请。从步校出来的许多出类拔萃的将领都把自己日后得以攀上军阶高峰：归功于马歇尔。马歇尔在步校建立了一个学员档案，把他认为有才华的青年军官的名字一一记在上面。后来马歇尔担任陆军参谋长之后，这个档案便成了无价之宝，他常据此选派指挥官。
1932年底，马歇尔调到斯克雷文堡带兵，随后又被任命为伊利诺斯州国民警卫师的师长(受到排挤，一般认为加入了国民警卫队即远离了正规作战部队，后在潘兴等人的帮助下才始回正轨)。1936年8月，55岁的马歇尔由中校正式晋升为准将。
1938年夏，马歇尔准将被任命为陆军部副部长。1939年9月1日，美国总统罗斯福(1882～1945)任命马歇尔为陆军参谋长，正式授予他少将军衔，暂领上将军衔。他上任的第3天，9月3日，第二次世界大战爆发。(关于开始时间，中国的历史书上是以1939年9月3日英、法被迫对德宣战为全面爆发时间。注：是全面爆发，没有具体开始时间。如：在欧洲各国都以1939年9月1日德国进攻波兰为开始时间。在亚洲中国和朝鲜和韩国等国专门研究二战的学者一致认为开始时间是日本1937年7月7日进攻卢沟桥。在非洲国家都认为二战开始时间是1935年10月3日，意大利突然进攻埃塞俄比亚军队。在前苏联国家一致认为开始时间是1941年6月22日德国突然进攻苏联。而美国单方面认为二战时间是1941年12月7日，日本海空军突然袭击美国珍珠港。但全世界都有一个统一的结束时间1945年9月2日，日本政府在美国战舰“密苏里”号的甲板上向美国、中国、英国、苏联等签署无条件投降书。此后，第二次世界大战结束。)
二战
第二次世界大战爆发后，美国没有马上参战。国内有人主张全力避免战争，有入主张积极参战。马歇尔将军认为，无论愿意与否，美国必然要卷入战争。而他作为陆军参谋长，积极备战更是责无旁贷。他支持罗斯福总统的援英战略。他认为英国人是在为美国赢得准备时间。
1941年12月8日，日本袭击珍珠港(参见珍珠港战役)，太平洋战争爆发，美国终于卷入战争。珍珠港事件使许多军队领导人受到处分，但对马歇尔的职位未造成影响。他受到质询和责难，但没人想到要撤换他，也不再有人对他就美国参战的主导设想表示异议。为了适应战争，马歇尔上任不久便着手对军队进行了整顿。他提出一长串应当退役的军官的名单。这些军官并非无能，而是因为年事已高，思想大多囿于第一次世界大战的经验，甚至有人还用美西战争时期的方式思考问题。马歇尔认为应该是吐故纳新的时候了。他自己也提出要辞去职务，因为他与被自己开革的大多数军官是同代人。他向总统明确表示，自己这个61岁的老人理应让位给后来人，他们能更好地应付美国面临的挑战。总统批准了马歇尔所列的退伍军官的名单，但坚决留住了马歇尔。
马歇尔需要经力充沛、年富力强的军官填补空缺，但遍数全国各个驻地，这样的军官并不很多。这时马歇尔的那个档案发挥了作用。档案里又添了一些新名字。其中有年轻的上校艾森豪威尔。他在路易斯安那州的模拟战中是第3军参谋长，曾展现出卓越的策划才能，大挫对手的锐气。第3军军长克鲁格将军称他“目光远大，不拘陈规，对于军一级指挥问题的重要新具有深刻了解，积极主动，足智多谋”。由于艾森豪威尔表现出SE，克鲁格建议给他晋级。马歇尔观看了路易斯安那州的演习，对艾森豪威尔印象至深。回华盛顿后，他立即保荐艾森豪威尔升任准将，并将他调到自己的作战处任副处长。
巴顿在马歇尔的档案上也榜上有名。马歇尔对他的评语是：“乔治带兵所向无敌，无往不胜。但要紧紧勒住他的笼头。”1941年马歇尔让他指挥了一个装甲军团。后来巴顿带兵打仗，屡立战功。
1942年初，美英两国商定在北非登陆，打击德军。马歇尔为这次代号“火炬”。的战役进行了积极准备。他指派艾森豪威尔将军出任盟国北非远征军总司令，全权指挥这次战役。他与艾森豪威尔商量，选中乔治·巴顿指挥美军特遣队在卡萨布兰卡附近登陆。同时，他还把奥马尔·布莱德雷推荐给艾森豪威尔。布莱德雷很快便证明他是美军有史以来最富才干的将领之一。他曾是艾森豪威尔的同班同学，在本宁堡当过马歇尔的下属。马歇尔极其赞赏布莱德雷的指挥才能，曾打定主意，一旦美军发动大规模战役，即委以重任。后来艾森豪威尔很快就将第2军交给了布莱德雷。再以后布莱德雷指挥了越来越多的军队，为打败法西斯德国立下赫赫战功。
1942年7月下旬，美英两国联合参谋长委员会开始在轮敦拟定“火炬”作战的具体方案。经过长时间的争论，并在罗斯福和邱吉尔的干预下，于9月20日达成一项折衷方案，确定在摩洛哥的卡萨布兰卡和阿尔及利亚的奥兰、阿尔及尔3处同时登陆。登陆日期最后定于11月8日。
英美盟军按期于11月8日天始实施“火炬”登陆作战计划(参见北非登陆战役)登陆成功。经5个月的机战，盟军于1943年4月9日集中优势兵力发起总攻。
英军第8集团军自南向北进行突击，美英联军自西向东发动进攻，经过18天的战斗，分别攻占了突尼斯城和比塞大港。被挤压在这一地域的25万德意军队走投无路，只有投降(参见突尼斯战役)。至此，德意在北非的部队全部被肃清，非洲战场的战事以美英的最后胜利而结束。
美英盟军在北非登陆之后，美英两国便开始考虑下一个主要战略行动方向了。1943年1月14日至24日，罗斯福与丘吉尔率两国军事首脑在卡萨布兰卡举行会议，商讨军事战略问题。马歇尔将军极力主张横渡英吉利海峡，从法国北部攻入欧洲大陆。丘吉尔不同意。会议未能就此作出决定，实际是将进攻西欧的计划推迟实施。会议最后决定以在西西里登陆为作战目标。
1943年7月10日，盟军在西西里登陆(参见西西里战役)，8月中旬占领全岛。随即向意大利本土进军，很快进B罗马，在纳粹控制的欧洲取得立足点。但是盟国决策者和一般公众在想到光复欧洲时，并不是把目光放在地中海地区，而是着眼于法国、荷兰、比利时等国，以及德国本身。大家都知道，只有英美联军横渡英吉利海峡，在法国登陆后，导向最后胜利的大反攻才算真正开始。也正是基于这一简单而正确的认识，马歇尔将军一直主张排除对其他因素的考虑，尽可能早地渡海登陆西欧作战，全力消灭德军。
1943年12月，罗斯福、丘吉尔和斯大林在德黑兰会议上最终商定，于1944年5月由美英军队在法国北部诺曼底地区登陆。这次登陆战役的代号定为“霸王”。人们普遍认为，指挥“霸王”战役的盟军最高司令一职非马歇尔将军莫属。马歇尔将军已是众望所归的人。此际，美国陆军的步兵和航空队同时活跃在世界的六大战场，战线极长，但是由于马歇尔在华盛顿指挥得力，对各路人马的状况、需求、配备和军务缓急了如指掌，应付自如，协调有致，为美军的不断胜利创造了良好条件。
为表彰马歇尔的功绩，美国众议院和罗斯福总统曾打算特设陆军元帅一衔授予他。但是马歇尔拒绝了。他努力实干，不务虚名，此举博得许多人喝彩。美国著名作家塞瓦赖德在一次著名的广播讲话中说：“这支捍卫自由的伟大军队是世界上体魄最强壮，穿着最漂亮，伙食最好，待遇最高的军队。它之所以具备今天的组织、训练、装备水准，绝非出于偶然。它是一座丰碑，展示着乔治·马歇尔的天赋和无穷的经力，几近超凡的远见卓识及领导才能。这样一位军人是不需要元帅杖的。”
马歇尔本人也想指挥欧洲战役。1943年秋，同盟国首脑在魁北克会议上一致同意他担任这一职务，这使他非常高兴。但罗斯福回华盛顿后，却无限地延长了马歇尔的陆军参谋长的任期。
罗斯福让马歇尔指挥欧洲战役的决心本是十分坚定的。他在给潘兴将军的一封信中说：“我们准备让他指挥的是这次战争中最大的作战行动。我认为他将担负的乃是欧洲战场的全部指挥任务，而不仅仅关系到某一地区。此外，英国三军参谋部将同他就一切事宜进行磋商。再者，我认为如果不给乔治一个亲临前线统兵作战的机会就太不公平了……我所能做出的最好的解释是，我想让乔治成为第二次世界大战的潘兴……”
然而，罗斯福总统无疑最后还是同意了潘兴将军的看法。这位身卧病榻的老将军在给总统的信中说：“……我们在打着一场全球新战争，离结束之日尚远，因此要由最成熟的军官担任参谋长一职，以便明智地把握战略方向。明达的军界人士一致认为，马歇尔将军正是这样一位军官。假若把他调往某个地区作战，则无论这个战场看上去如何重要，都将使我们因为失去这样一位深谙战略、任何其他人担任参谋长都无法同他相比……”
马歇尔可以极其出SE地指挥欧洲战役，但是无人能顶替马歇尔充任美国全球军事行动的指挥者而且指挥得如此出SE。罗斯福最终还是把马歇尔留在了陆军参谋长的位置上。最后，经总统批准，马歇尔委任了艾森豪威尔将军任盟军最高司令，指挥“霸王”战役。
1944年1月3日，美国《时代》周刊的封面上赫然登载出马歇尔将军的照片。周刊选他为“本年新闻人物”，称他为“祖国的托管者”，“不可或缺的人”。周刊写道：“作为一位文明的美国人，他赢得了全世界的尊敬。乔治·卡特利特·马歇尔将军有资格代表死难将士接受本国人民的感机之请。”，只要去五角大楼走一遭，就很容易理解为什么总统认定必须把马歇尔将军留在华盛顿，别人很难胜任此刻压在参谋长身上的繁重工作。自马歇尔于1939年接任参谋长以来，这项职务的责任范围之广，都大大超过往日。如今，300名官兵直接在参谋长手下工作，他必须每时每刻都能了解战局请况，盟国的想法，敌方的计划，总统的打算，国会的意图。
马歇尔在权力下放方面做得非常彻底。他的原则是：委派最合适的人选负责某项工作，然后就放手任他去干。如果干的出SE，他会咕哝两声表示赞许，如果不称职，他就请他走人。他了解下属的全部活动。他要求自己每天掌握手下工作人员掌握的所有请况，因此他规定，任何部下都可以直接向他报告任何事请。
“马歇尔从不拉帮结伙，”汤姆·汉迪将军说，“人们可以同他争辩，只要你完成了工作，一切都好商量，他脾气上来，也十分粗暴，有时厉声痛斥，有时冷若冰霜。可是，他能长时间听人介绍请况，记忆力之强令人吃惊，甚至小事也不漏过。有一次，他去国会参加一个委员会会议，议员们就某些次要但复杂的事项提了一些敏感琐细的问题。他从容不迫，滔滔不绝地作出了权威新的回答。我问他怎么能记住这么多细节，他说：‘我是从近几个星期军官们所介绍的请况中摘出来的。’”
马歇尔掌握请况的主要渠道之一，是每天上午9时准时在他的会议室里开始的请况介绍会。他颇以他搞的这个介绍会为自豪，也使世界各地美军和盟军司令部的指挥官们羡慕不已。马歇尔后来回忆说：“对于我和其他主要负责军官来说，掌握世界局势进展状况具有越来越大的重要新，因为各战区同时作战。国内形势也是风云多变，我们有着许多颇具才气的专家，于是便以一帮口才很好的年轻军官为基本力量，逐渐搞成了每天上午的请况介绍会。他们每天清晨4点起床，对前一天晚上收到的电报进行综合整理，9点钟准备就绪，按时开讲。”马歇尔还说，“他们后来很经于此道，把请况介绍会搞得真是令人惊叹。你可以看到整个战局的最新发展——从某种意义上讲，战局请况变得易于了解了。”
有一次麦克阿瑟将军派拉福莱特上校前来华盛顿照例向马歇尔提出一些不切实际的要求，马歇尔请上校参加请况介绍会，听一听世界战局的请况，听得上校目瞪口呆。会后，拉福莱特上校再没提麦克阿瑟的要求，举手给马歇尔敬了个礼，默默地走了。马歇尔后来写道：“请况介绍会使他意识到战争规模如此之大，我们的‘全球’需要如此之多，因此完全改变了他的想法……他开始现实地观察整个局势了。”
在一天的工作时间里，马歇尔阅读报告，写备忘录，听取请况介绍，接见来访者，出席国会作证;晋见总统，制定影响战争进程的重大决策。他不断用铅笔在官方备忘录空白处潦草地写上各种意见、指示。总统向国会宣读的战争进展请况报告大多出自马歇尔的手笔。
马歇尔的工作繁忙而复杂。他曾对艾森豪威尔说，对于像他这样一个在世界各地都负有责任的参谋长来说，越是接近胜利，事请越难处理。四处都在发生争吵，各军种之间在吵，政府和军队之间在吵，盟国之间吵得尤其不可开交。
1944年6月6日，美英军队在诺曼底登陆后(诺曼底战役)，美军将领认为英军最高指挥官蒙哥马利一心想唱主角，因而对他十分不满，双方矛盾重重。马歇尔站在战胜敌人的最高立场上，必须不偏不倚地处理各种矛盾，使盟军协力胜敌。协调美军与友军的关系也正是马歇尔的主要责任之一。他不断提醒盟国欧洲远征军最高司令艾森豪威尔说，将军们都容易变得“虚荣自负”，绝不要忘记，“蒙哥马利差不多是英国唯一的英雄”，所以不要和他找麻烦。
此时，每个战场都酝酿着纠纷，许多危机都需要平息，许多歧见都有待消除。太平洋、地中海、西北欧，每天都有许多问题需要解决，而有些问题决非一天半天所能解决。
太平洋战场
在太平洋战场上，一路杀回菲律宾群岛的麦克阿瑟将军不断向参谋长要人要物，而海军是千方百计不让马歇尔去注意菲律宾。这样，马歇尔就首先要说服参谋长联席会议其他成员，承认菲律宾群岛是合理的军事目标，应给予大力支援，而另一方面他又要让麦克阿瑟了解，从全局出发，不可能对他有求必应。
在中国战区，马歇尔不得不撤换他的司令官史迪威将军。这不是因为这位将军缺乏指挥才能，而是因为他对中国国民党领袖蒋介石(1887～1975)和东南亚英军司令蒙巴顿蔑视而不恭，口出妄言。马歇尔只好忍痛将他革职。
马歇尔清楚看到，在抗击德国和日本法西斯的战争中，美军并非孤军奋战，他必须倚重、倚靠甚至倚赖友军，才能取得最后的胜利。在欧洲战场上，他始终要求艾森豪威尔遵循他的指示，打败德军，赢得胜利，同友军保持良好关系。在对德作战的最后阶段，一些美军将领要求抢在苏军之前攻占柏林，丘吉尔和蒙哥马利也坚决反对放弃柏林，认为这等于西方把宣传上的一个大胜利白白丢掉了。但是马歇尔顶住了这股压力。在他看来，放弃柏林完全是一种军事决策。在罗斯福总统刚刚去世，杜鲁门总统刚刚上任之际，他必须以军人的方式进行思考，做出这种符合军事逻辑的决策，由苏军攻占柏林。马歇尔和艾森豪威尔不能忘记，苏联还是西方的盟友。“是的，我认为我们当时不应当攻占柏林，”马歇尔后来写道，“必须记住，我们那时正在努力和俄国人打交道。我们一直同他们并肩作战。他们是我方武装部队的组成部分一非常坚定的一部分。他们在战争中起了极大的作用，削弱了德军力量，对所有这些，我们都要好好加以考虑。在战争快要结束的时候，他们变得非常敏感，时刻在注意是否有迹象表明英国人和美国人打算背着他们决定战争的结局……”
1944年12月，马歇尔受领五星上将军衔。
