Za vrijeme Drugoga svjetskog rata Združeni stožer američkih oružanih snaga djelovao je kao poseban ratni ured predsjednika Roosevelta. Iako je admiral William Leahy na čelu Združenog stožera ostao sve do 1949. godine, kako je rat odmicao, Marshallova uloga unutar Stožera bivat će sve više dominantna, a njegov utjecaj na Roosevelta sve veći i očitiji.
Marshall će tako za vrijeme rata postati čovjek od predsjednikova najvećeg povjerenja. Njegov će utjecaj na Roosevelta, iako je bio samo načelnik stožera Kopnene vojske, biti toliki da će se Roosevelt često savjetovati samo s njim (mimo načelnika Združenog stožera), a nerijetko će Marshall preuzimati i ulogu ministra rata.
Ministru Stimsonu to nije previše smetalo. Dapače, poznata je njegova izjava o Marshallu kao "najvećem od svih vojnika" koje je upoznao.
Zbog uloge neslužbenog Rooseveltova savjetnika za strateška i vojna pitanja, kao i zasluga u savezničkoj pobjedi, Churchill će nakon rata Marshalla nazvati "organizatorom pobjede". Nema sumnje da je Rooseveltov izbor generala Marshalla kao načelnika stožera Kopnene vojske te kasnije kao (neslužbenog) glavnog vojnog savjetnika, bila jedna od najmudrijih i dugoročno gledano najboljih predsjedničkih odluka u Drugome svjetskom ratu. Ne samo da je Marshall bio organizator američke pobjede, on je kao načelnik stožera Kopnene vojske SAD-a uspio od jedne slabo opremljene, staromodne i brojčano skromne vojske, organizirati jednu od najvećih i najbolje organiziranih vojnih sila u modernoj svjetskoj povijesti. Nakon rata predsjednik Harry Truman postavit će ga na mjesto državnog tajnika, a poslijeratni plan obnove ratom razrušene Europe - Marshallov plan - dobit će ime upravo po njemu.
