1896. december 2-án szegényparaszti családba szü- letett a Moszkvától dél-nyugatra fekvő Sztrelkovka faluban (Kalugai terület), édesapja cipész volt. A helyi egyházi iskolába járatták, ahol kitüntetéssel végzett. A falusi iskola elvégzése után Moszkvában az egyik rokonnál kitanulta a szűcsmesterséget; 1915-ben besorozták katonának, a lovassághoz. Részt vett az 1916-ban indított Bruszilov-offenzívában, ahol meg- sebesült. Harctéri érdemeiért kétszer is kitüntették a Szent György Kereszttel, és többször előléptették. Az első világháborút altiszti rangban fejezte be.
1918-ban belépett a Vörös Hadseregbe, majd egy évvel később a bolsevik pártba is. A polgárháború során Cáricin (a későbbi Sztálingrád) védelme során megsebesült. Ezután tisztképző iskolába került, el- végzésével egy alegység parancsnokságát bízták rá.
Hamarosan már nagyobb létszámú csapatokat vezetett, 1921-ben Vörös Zászló Érdem- renddel tüntették ki a Tambov környéki bolsevikellenes parasztfelkelés leveréséért. A harcok végeztével továbbra is a Vörös Hadseregben maradt, és gyorsan emelkedett a ranglétrán. 1923-ban kinevezték a 39. lovasezred parancsnokává, az 1920-as évek végén és az 1930-as évek elején már dandárparancsnok, komoly szerepet játszott a páncélos hadviselés Szovjetunióban való elterjedésében is. Katonái alapos tervezőnek, kemény fegyelmet követelő parancsnoknak ismerték meg, aki mindig elérte kitűzött céljait.
Az 1937 és 1939 között zajló, hadsereg vezetését szabályosan lefejező tisztogatások kevés szerencsés túlélője közé tartozott. 1938-ban a Távol-Keletre vezényelték, ahol hadsereg- csoport-parancsnok lett. 1939 augusztusában sikeresen állította meg a japán betörést a mongol-mandzsúriai határnál, visszavonulásra kényszerítve a japánokat a Halhin-Gol-i csatában. Győzelméért a Szovjetunió Hőse címmel tüntették ki, 1940-ben hadseregtábor- nokká léptették elő, és kinevezték a fontos Kijevi Katonai Körzet parancsnokává.
1941 januárjában Sztálin vezérkari főnökké nevezte ki és Moszkvába rendelte. A német támadás (Barbarossa-hadművelet) megindulása, a gyors német előrenyomulás, valamint a szovjet hadsereg igen jelentős veszteségei miatt azonban összekülönbözött Sztálinnal és más tábornokokkal. Ennek ellenére (vagy pont ezért) 1941. szeptember elején Lenin- grád védelmével bízták meg, döntő szerepe volt a város védelmében, valamint az első sikeres szovjet ellentámadásban, az 1941 végi moszkvai csatában.
Ezt követően gyorsan már ívelt felfelé karrierje, a honvédelmi népbiztos helyettese lett. Szerepet kapott Sztálingrád védelménél is, a hadműveletet irányító Rokosszovszkij és Csujkov mellett; 1942 őszén a szovjet ellentámadás megtervezői között találjuk. A táma- dás a Vörös Hadsereg győzelmével végződött, 1943 februárjának elején Paulus tábornok és a német 6. hadsereg megadásra kényszerült.
1943-tól a főparancsnok (Sztálin) helyettese, és marsallá nevezték ki. Ugyanebben az évben megtervezte és felügyelte a német támadás elleni védelmet a kurszki ütközetben. 1944-ben sikeresen felmentett a három éve ostrom alatt álló Leningrádot, majd levezé- nyelte a Bagratyion-hadműveletet, amely már a németek kiűzését tűzte ki célul. A had- művelet során az 1. ukrán front fejeként egy ideig harctéri parancsnok is volt. 1944-ben kapta meg másodszor a Szovjetunió Hőse kitüntetést a nyári offenzíva sikere miatt; 1944 őszén Bulgária felszabadításáért és megszállásáért volt felelős.
Sztálin az addigi vezérkari pozíciójából Zsukovot ismét a frontra küldte, kinevezte az 1. belorusz front élére, amely 1945 januárjában benyomult Németországba, majd Konyev 1. ukrán frontjával közösen május elején bevette Berlint is; pályafutását Berlin egyik elfog- lalójaként koronázta meg. Jelen volt a II. világháborút lezáró fegyverszünet (hivatalos) aláírásánál 1945. május 9-én, ami a háborúnak az európai frontokon való befejezését je- lentette.
1945. június 24-én a Moszkvában megtartott győzelmi parádén – ez azóta is a legna- gyobb díszszemle, 40 000 katona és 1850 jármű vett rajta részt – fehér lovon fogadta a Konsztantyin Rokosszovszkij (fekete lovon) vezette csapatok tisztelgését. (Zsukov élete egyik "felejthetetlen napjának" nevezte ezt az eseményt.)
1945/46-ban a szovjet megszálló erők parancsnoka Németországban, jelentős szerepet játszott a németországi Szövetséges Ellenőrző Tanácsban, Eisenhower tábornokkal már- már baráti kapcsolatot alakított ki. (Amikor Eisenhower látogatást tett a Szovjetunióban, kérésére Zsukov volt a kísérője.) Sztálin gyanakodva figyelte népszerűségének és befo- lyásának növekedését, 1946 közepén hazarendelte Berlinből; egy rövid ideig a hadügy- miniszter helyettesi tisztét töltötte be, majd viszonylag jelentéktelen katonai körzetekbe küldték, először Odesszába, aztán az Urálba. Kevés híján vádat is emelnek ellene, ám magas beosztásban lévő parancsnoktársai kiálltak mellette.
Az 1951-es koreai konfliktus kapcsán ismét szerepet kapott, de csak Sztálin halála után (1953) lehetett újra a SZKP Központi Bizottságának tagja. Hruscsovot és Malenkovot tá- mogatva döntő szerepet játszott Berija hatalomból való eltávolításában. Pályafutása ismét felfelé ívelt, 1955-ben honvédelmi miniszternek nevezték ki; nem mellékesen ő irányította 1956 őszén a magyar forradalom elleni szovjet katonai inváziót.
1957-ben – annak ellenére, hogy korábban támogatta Hruscsovot a hatalom megszerzé- sében – koholt vádakkal (?) leváltották a honvédelmi miniszteri posztról, majd 1958-ban nyugdíjazták. 1964-ben, amikor Brezsnyev jutott hatalomra, egy ideig ismét a politikai élet előterébe került, de jelentős pozíciót 1974. június 18-án Moszkvában bekövetkezett haláláig már nem töltött be.
Az 1974-ben megjelent Emlékek, gondolatok című visszaemlékezése keleten és nyugaton is bestsellerré vált, bár sokak számára meglepetést keltően dicsőítette benne Sztálint és annak katonai képességeit.
Katonai nagyságát kevesen vitatják, kétségtelen, hogy kora egyik legkiválóbb szovjet katonai vezetője volt. Ugyanakkor ragaszkodott ahhoz, hogy csapatai bármi áron állítsák meg a német támadásokat, a siker érdekében nem sajnálta sem az emberanyagot, sem a harci technikát. Csak a győzelem számított, annak ára nem, többször még tábornoktársaival, sőt feletteseivel is vitába keveredett amiatt, hogy a hatalmas veszteségek ellenére sem volt hajlandó terveit feladni. Nem válogatott az eszközökben, akár aknamezőn is képes volt rohamra küldeni katonáit. A fentiek ellenére Zsukov Oroszországban a mai napig igen nagy tiszteletnek és népszerűségnek örvend.