苏德战争爆发后，华西列夫斯基任副总参谋长兼作战部部长，参与了战争初期苏军防御作战及莫斯科会战的组织协调工作，以惊人的镇定、坚毅和吃苦耐劳精神，受到苏军大本营上下的一致好评。
1942年5月，当德军在北起列宁格勒，南至高加索、克里米亚的宽广战线上发起新的进攻，而总参谋长沙波什尼科夫因病情加剧，不得不离职休息的关键时刻，华西列夫斯基就任总参谋长，10月兼任苏联副国防人民委员，挑起了领导总参谋部、协助最高统帅部全面指导战争的千钧重担，参与指挥了列宁格勒、沃罗涅日等方向的防御作战。特别是在震惊世界的斯大林格勒会战期间，作为最高统帅部成员，亲临前线实施战役指导，指挥和协调各路苏军抗击敌人的进攻，成功地保卫了斯大林格勒这座光荣的城市，并主持制订反攻计划，一举围歼了德国陆军主力第6集团军及其辅助部队30余万人，使不可一世的法西斯军队遭到了前所未有的沉重打击。
1943年2月，华西列夫斯基晋升为苏联元帅。在此前后，组织指挥了奥斯特罗戈日斯克—罗索什战役、沃罗涅日—卡斯托尔诺耶战役、哈尔科夫战役等一系列进攻战役，共歼敌10余万人，将战线向西推进了200多公里，为苏军尔后连续实施大纵深进攻战役积累了经验。