Colorula, đánh hạ Montson, chiếm lĩnh Romgenone, những chiến tích này
đã giúp cho Rommel có được bằng huân công nước Đức mà rất hiếm khi sĩ
quan cấp thấp được ban tặng, đồng thời Rommel cũng được thăng lên quân
hàm thượng úy.
Tháng 9 năm 1939, Rommel được thăng quân hàm lên thiếu tướng. Sau
khi nước Pháp bị xâm chiếm, Rommel vẫn tiếp tục sự nghiệp quân sự của
ông. Tháng 1 năm 1941, ông được tấn phong quân hàm Trung tướng, tháng
2, được triệu hồi về Beclin đảm nhậm chức vụ tư lệnh quân đoàn châu Phi
của Đức. Quân đoàn châu Phi này do hai sư đoàn hợp thành, sứ mệnh của
quân đoàn là chi viện cho nước Đồng minh Italia trong cuộc chiến với quân
Anh tại Bắc Phi từ năm 1940 đến tháng 1 năm 1941. Từ tháng 12 năm 1940
đến tháng 1 năm 1941, quân đoàn này bị quân đội liên bang Anh đánh bật
ra khỏi Ai Cập, quân Italia cũng bị lui đến tận biên giới Libyan. Từ ngày 11
đến ngày 13 tháng 4, Rommel lần đầu tiên công chiếm Tobruch nhưng bị
thất bại. Lần thứ hai Rommel công chiếm Tobruch là từ ngày 30 tháng 4
đến ngày 2 tháng 5. Lúc này cả kẻ địch và bạn bè của Rommel đều gọi ông
là "cáo sa mạc" vì chiến thuật "xảo quyệt" của ông.
Trung tuần tháng 8 năm 1941, quân đoàn châu Phi cải tổ thành quân đoàn
thiết giáp châu Phi, trên thực tế Rommel đã trở thành tổng tư lệnh của quân
đội Đức và quân đội Italia trên toàn châu Phi.
Trung tuần tháng 1 năm 1942, ông bắt đầu chỉnh đốn lại quân đội, chuẩn
bị phát động một loạt cuộc tấn công sau khi đã được bổ sung và trang bị.
Rommel thường xuyên có những hành động chiến thuật rất tài tình, ví dụ
như ông ra lệnh cho các xe tải bổ sung và xe tăng loại nhỏ của quân Italia
khi di chuyển trên sa mạc thì buộc những cành cây phía sau để tạo nên
những đám bụi lớn mịt mù, làm cho quân địch lầm tưởng là một cuộc tiến
công quy mô cực lớn, từ đó khiến cho chỉ huy quân Anh đưa ra phán đoán
sai lầm, Rommel lại tập trung chủ lực thiết giáp tại một nơi khác rồi phát
động tổng lực tấn công. Hạ tuần tháng 1 năm 1942, Rommel phát động một
cuộc tấn công mới, ngày 21 tháng 6, Rommel công chiếm được Tobruch,
ngày 22 tháng 4, Hitler tấn phong Rommel làm Nguyên soái lục quân.
