1941年9月下旬至10月上旬，德军从西部迂回，直奔莫斯科。10月10日，朱可夫奉命任西方面军司令员，担负保卫莫斯科的重任。朱可夫知己知彼，料定墨守阵规的德军还将采用强攻两翼、分进合击的战法，因此，他格外重视两翼的防守，同时掌握部分兵力在紧急时从正面支援翼侧。11月15日，德军以51个师180万人向莫斯科发起总攻。朱可夫指挥若定，沉着应战，只以一线部队抗击敌军而不动用预备队。守旧的德军果然犯了一个致命的错误，在两翼部队苦战之时，正面的部队却按兵不动，从而使朱可夫得以把正面兵力机动到两翼抗击德军。12月13日，红军击溃德军两翼，使希特勒损兵折将50万人，打破了法西斯德国“不可战胜”的神话，为战争进程的根本转折奠定了基础，朱可夫也从此名扬天下，连“和朱可夫打过仗的德国人都承认他是苏俄将领中最大的天才”。
1942年夏，不甘心失败的希特勒企图利用第二战场尚未开辟之机，在南翼发动一次进攻战役，斯大林格勒处在危急之中。此时，朱可夫被任命为苏军最高副统帅，并被派往顿河前线了解情况，提出战略决策。朱可夫经过实地考察，与总参谋长华西列夫斯基反复讨论研究，提出了一个大胆的作战方案：坚守斯大林格勒，将德军第6集团军和坦克第4集团军紧紧地牵制在这里，待苏军各后备集团军组建完毕后，对之实施战略反包围，予以全歼。这是一个冒风险的大胆的战略决策，关键在于斯大林格勒守军能否坚持到大反攻。战争实践证明这一决策完全正确。斯大林格勒会战的胜利成为苏德战争的根本转折点，从此，德军由战略进攻转入了战略防御，开始走下坡路了。
朱可夫具有高超的指挥艺术，他多谋善断，具有远大的战略目光。当他率领大军直捣希特勒的巢穴柏林时，他的辉煌战功达到了顶峰。
1945年春，对德的最后一战开始了。而奉命直捣柏林的正是朱可夫指挥的白俄罗斯第一方面军。为了实施这一不寻常的战役，朱可夫要求部队进行特别周密细致的准备，为了出奇制胜，他决定打破常规，改变过去那种从凌晨实施炮火准备白昼开始冲击的老办法，计划在黎明前两小时实施夜间冲击，并利用140部探照灯的突然照射惊吓敌人。
1945年4月16日4时，朱可夫下令白俄罗斯第一方面军发起进攻;4月18日晨攻克泽劳弗高地，打开了这把“柏林之锁”;4月20日，突破柏林近郊的德军防线;次日，朱可夫的三个集团军突入市区;4月30日15时50分，朱可夫下属的两名军士将红旗插到了国会大厦。
