Tháng 6 năm 1940, ông được tấn phong quân hàm đại tướng và được bổ
nhiệm làm tư lệnh quân khu đặc biệt Kiep. Tháng 1 năm 1941, ông được bổ
nhiệm làm tổng tham mưu quân đội Liên Xô, và trở thành nhân vật đầu não
của quân đội Liên Xô.
Ngày 22 tháng 6 năm 1941, chiến tranh Đức - Liên Xô bùng nổ. Ngày
23, Liên Xô thành lập đại bản doanh bộ thống soái tối cao, Zhukov trở
thành 1 trong 7 thành viên của đại bản doanh này.
Ngày 29 tháng 7, Zhukov đã khuyên Stalin rời bỏ Kiep để tập trung toàn
bộ binh lực bảo vệ Matxcơva nhưng lời khuyên này đã không được Stalin
chấp nhận. Stalin đã bãi miễn chức vụ tổng tham mưu trưởng của Zhukov
và điều ông đến tiền tuyến, đảm nhiệm chức vụ tư lệnh quân đoàn đặc
nhiệm dự bị. Tiến trình sau đó của cuộc chiến đã cho thấy Zhukov là người
nhìn xa trông rộng, thấu hiểu thời cuộc. Nếu như lúc trước Stalin nghe theo
lời khuyên của ông thì sẽ không đến nỗi dẫn đến bi kịch 66 vạn quân Liên
Xô bị bao vây, tiêu diệt trong chiến dịch Kiep. Zhukov dẫn quân của mình
thực hiện thành công cuộc tiến công đầu tiên trong chiến tranh vệ quốc tại
khu vực Yenia, đánh tan quân tiên phong của quân Đức.
Tháng 9 năm 1941, khi Leningrad bị quân Đức bao vây, Zhukov được bổ
nhiệm làm tư lệnh quân đoàn đặc nhiệm Leningrad. Ông dẫn quân hiệp
đồng tác chiến với hạm đội biển của BaLan, tạo nên sức mạnh ngăn cản sự
tấn công của quân Đức, đập tan ý đồ của Hitler là muốn xoá tên thành phố
này trên trái đất.
Tháng 10 năm đó, Matxcơva rơi vào tình thế nguy cấp, Zhukov lại được
điều về Matxcơva nhận chức tư lệnh quân đoàn đặc nhiệm phía Tây mới,
phụ trách toàn bộ công việc chỉ huy trong thế chiến phòng ngự của
Matxcơva. Ông đã bắt tay vào xây dựng phòng tuyến kiên cố phía Tây
ngoại ô, ngăn chặn hiệu quả các cuộc tấn công dữ dội từ chính diện của
quân đoàn số 4 quân Đức, làm cho quân Đức mệt mỏi, hao kiệt, sĩ khí tan
biến. Đợi đúng đến lúc mùa đông rét buốt thấu xương ập đến, thì quân Liên
Xô mới phát động tổng lực phản công vào quân Đức đang mệt mỏi và rét
