德国“闪击”波兰(参见波兰战役)取得惊人的成功后，伴随希特勒左右的隆美尔也对德军“闪击战”所带来的变化感到惊讶。尽管他擅长战术研究，但那只是传统的步兵战术。眼见那些隆隆驶进的坦克，他是多么想成为他们的一名指挥官呀。就在波兰战争期间，隆美尔向希特勒提出，自己想去指挥一个装甲师。
鉴于隆美尔以前的卓越表现，陆军总司令布劳希齐建议，让他到因斯布鲁克或者慕尼黑指挥山地师较为合适。因为隆美尔在山地部队任职多年，有丰富的山地步兵作战经验。可隆美尔却希望指挥一个真正的装甲师。当时的德军远没有全部机械化，为数不多的装甲师被陆军总司令部视为心肝宝贝，怎么能让从来没有在装甲部队干过的隆美尔去指挥这个技术复杂的兵种呢?布劳希齐拒绝了这一无理要求。最后，希特勒亲自出面干预，才使隆美尔如愿以偿。
1940年2月，隆美尔来到驻扎在莱茵河的巴特戈德斯贝格第七装甲师任师长。该师原为第二轻型装甲师，是由骑兵部队改编的，曾参加过入侵波兰的战争，当时只编有1个轻型坦克营和4个摩托化步兵营，装备有90辆轻型坦克，多是掠夺来的捷克的旧货。其战斗力远低于德军中建立较早的6个标装的装甲师，在对波军作战时吃过波军大炮的亏。侵波战争结束后，第二轻装师改编为第七装甲师，由坦克、摩托化步兵、工兵、炮兵和侦察兵组成。辖第二十五坦克团，第六第七步兵团、第七摩步营，第三十七侦察营，第五十八工兵营、第七十八炮兵团和第四十二反坦克炮营。改装后拥有218辆坦克，其中半数以上是捷克制造的轻型坦克；37毫米反坦克炮54门，105毫米炮36门。师里的士兵大部分来自图林根，那是一个很少造就出有前途的军人的州。迫于希特勒的压力，陆军总司令部不得不让隆美尔指挥装甲师。可是他们还是做了保留，没有让他去指挥那些战斗力强的装甲师，他们信不过这位从未与坦克打过交道的将军。不只是陆军总司令部的头头们，甚至连国防军最高统帅部指挥参谋部参谋长约德尔，也对这项任命大为吃惊。
然而，隆美尔就是不服气，他要以实际行动来证明自己是称职的。他到任后决心狠抓军事训练，首先抓纪律和整顿作风。他的第一个行动是让团指挥官们休假。“在我自己掌握情况之前不需要你们。”2月27日，为整肃军纪、杀鸡儆猴，他解除了一位令他不悦的营指挥官的权力，并让他在90分钟内离开营房。隆美尔自己也加强体力锻炼，每天早晨6点钟独自沿着戈德斯贝格附近一条狭窄的林间小路慢跑1英里，以积极锻炼医治自己的心脏病。6点55分，乘坐奔驰车到士兵们身边。7点从汽车的收音机里收听新闻广播，直到12点钟才返回驻地吃午饭。
隆美尔集中主要精力训练这支装甲部队。当时训练面临的困难主要是没有装甲战术训练手册可资利用。虽然古德里安早在1929年就提出了利用坦克进行突破的新思想，德军组建装甲师也已有5年的历史，但还没有形成完整的战术训练教材。只有古德里安在战前担任装甲部队总监时所颁发的一本守则，强调了如下一些原则性的东西：必须注意侦察以发现敌防御阵地可以利用的弱点；快速推进将有助于奇袭敌人，并使敌人无法获得足够的时间进行反击；集中兵力于一个狭窄的正面上进行突破；燃料和弹药供应必须充足和及时，等等。隆美尔边用这些现成的理论指导训练和演习，边摸索一些新的东西。到1940年4月，他不仅在坦克作战的理论和实践方面已成为内行，而且发展了某些独特的艺术。如把自己的部队编成各种大小队形，用快速的、熟练的无线电指挥和重炮轰击的形式进行越野训练。不过他对燃料和弹药补给的重要性尚未充分认识，在以后作战中吃了补给不及时的苦头。
当隆美尔埋头训练部队时，希特勒正督促高级将领们抓紧入侵法国的准备。德军原来的作战计划重点是放在右翼，通过比利时和法国北部，目标是占领英吉利海峡各港口。如果真照这个计划行事，德军就会和英法军队硬碰硬。为避免正面冲突，同时为了使急忙挺进到这么远的英法军队陷入圈套，出色的战略家、西线龙德施泰特率领的A集团军群参谋长曼斯坦因将军提出了一个全新的计划。其要点是：德军的主要矛头应放在中央，以强大的装甲部队突破阿登森林，然后在色当的北方跨过缪斯河，突入开阔地区，直趋海峡上的阿布维尔。德军许多高级将领均反对这一计划，并借故将曼施坦因调去指挥一个步兵军。可曼施坦因在希特勒招待一批新任军、师长的宴会上，还是找到机会亲自向希特勒陈述了自己打破正统的观点。1940年2月24日，最高统帅部正式采纳了这个计划。
至1940年5月德军已在西线集结了136个师，编成3个集团军群。隆美尔的第七装甲师编在担负决定性任务的T集团军群。这为隆美尔施展自己的才华提供了机会。5月10日，德军发起总攻击(参见法兰西战役)。这是一个风和日丽的春日，天刚破晓，敌方的官兵还在酣睡中时，成群的德军施图卡轰炸机便呼啸而过，对法国、比利时、荷兰和卢森堡的机场、铁路枢纽、重兵集结地区和城市进行疯狂的轰炸。同时在从北海到马其诺防线之间的300多公里战线上，德军地面部队突破3个中立小国荷、比、卢的边境，粗暴地违反了德国人曾经庄严地一再作出的保证。与德军对峙的法、英、荷、比等国的军队共有135个师，有着绵亘的防御工事，坦克的数量也足以与德军匹敌，可是他们并没有像德军一样把坦克集中起来，更没有料到德军竟会集中装甲部队从阿登森林突破，从而被打了个措手不及。德军装甲部队迅速突破阿登地区。5月14日抢渡马斯河。5月15日深入法国境内后兵分两路：一路朝巴黎方向逼进，一路沿宽阔平坦的公路向英吉利海峡推进。5月24日，向海峡推进的德军掉头北上直扑海峡重要港口布伦和加莱，将在佛兰德作战的36万英法联军围困在敦刻尔克至比利时边境的滨海地区，迫使英法军队仓惶从敦刻尔克乘船撤往英国。6月5日，德军沿索姆河和埃纳河一线向法国首都巴黎发动进攻，开始了“法兰西战役”的第二阶段。6月14日巴黎陷落。6月22日法国被迫投降。在这场当时规模最大的现代化战争中，隆美尔摆脱技术上的束缚，像他1917年在蒙特山进攻战中一样，率领第七装甲师从德比边境出发，横穿法国，直抵瑟堡，其进攻速度之快、挺进距离之远，使该师赢得了“魔鬼之师”的绰号。令人信服的是，隆美尔本人在作战中不是蹲在远离前线的师部，也不坐在用厚钢板制成的指挥车里，不靠往地图上插大头针的方法作决策和指挥战斗，也不用其他遥控的办法，而总是冲在最前面。他经常身处险境，但又魔术般地死里逃生。在战场上，他经常从一辆坦克跳进另一辆坦克进行瞄准，简直还家个步兵连长，而不像指挥12500名士兵和数百辆坦克的师指挥官。
隆美尔在法国作战期间，他的“魔鬼之师”共俘敌97648人，缴获炮291门，坦克和装甲输送车458辆，其他车辆3500辆。而他的师仅阵亡682人，伤1646人，失踪296人，损失坦克42辆。
法兰西之战后，英伦三岛已成孤悬海上的一叶方舟，飘飘摇摇，素有“雄狮”之称的首相丘吉尔领导英国军民在苦苦支撑局面。但希特勒没有一支可以与英国海军决一雌雄的强大舰队，其空军在与英国皇家空军进行的英伦空战中也没有捞到什么便宜，入侵英国的“海狮计划”不得不一拖再拖。希特勒也像拿破仑一样望海兴叹起来。在半年多的时间里，隆美尔没有打什么仗，比起那刀光剑影的战场来，现在恬静多了。不过，在对法之战后的论功行赏中，一大批将领晋升了军衔，隆美尔却没有像他的两个同伴那样晋升中将，又未得到梦寐以求的栎树叶勋章，显得有些沮丧。直到1941年初，他才被晋升为中将。
1941年2月15日，在隆美尔回到维也纳新城的家中准备度假的当天晚上，希特勒的一名副官带着一份要他立刻与陆军总司今和希特勒本人会见的命令叩响了他的家门。军人的本能使他意识到一定有一场重大行动在等待着他。次日，他见到陆军总司令勃劳希齐和希特勒，受命率德国“非洲军”前往北非与意大利人共同对英军作战。
原来，在德国征服西欧的同时，列强在北非和地中海的争夺也进入了白热化。意大利法西斯独裁者墨索里尼在德军侵吞西欧时见有利可图，便参加进来，在法国的背后捅了一刀。墨索里尼作为古罗马帝国的后裔，以恺撒自诩，一心想恢复昔日的辉煌，建立一个以罗马为中心的环地中海的大帝国。对法战争结束后，他眼见英国忙于保卫本土，在其海空军基地马耳他和北非的守备兵力十分薄弱，认为这是实现自己狂妄计划的千载难逢的良机，遂令伦道夫·格拉齐亚尼元帅率50万意军于1940年9月13日发动了入侵埃及的攻势。意军的行动对英国构成极大威胁。因为如果地中海航道被掐断，英国所必需的补给便只能绕道好望角，这等于被扼住了咽喉。丘吉尔断然决定向埃及增兵。12月9日，得到加强的英军共5万人在英中东总司令韦维尔将军指挥下发起反攻，至翌年2月7日英军几乎全歼意军8个师，俘虏13万人，并缴获了大批武器装备。人数众多但装备落后士气低落的意军业已证明不是英军的对手。虽然对德国来说，丢掉北非在军事上是可以接受的，但这会对意大利人产生强烈的精神震撼，担心英国以北非为基地对自己的城市进行轰炸的意大利人便有可能退出德日意“轴心”联盟，那将大大损害德国的战略利益。于是希特勒立即命令总参谋部在原定的狙击部队第五轻型装甲师起程后，再派一个完整的装甲师前往北非，并挑选隆美尔为军指挥官全面指挥这次远征。
隆美尔就要开始他长达2年之久的沙漠战了。这是一个全新的战场环境。广阔无垠的沙漠绝不是那小小的作战想定作业时的“沙盘”。这里的夏季，正午的太阳使气温上升到摄氏40—50度，夜晚的气温又骤降至0度。最危险的是突然刮来的沙漠风暴，开始时只是一小点古怪的旋风在灌木丛之间旋转，转瞬就会变成时速达130公里的狂飚，搅起几百万吨滚烫细小的红沙，铺天盖地地卷过沙漠。细小的沙粒能渗透进发动机的过滤器，涌进帐篷，迷住人的眼睛和鼻子，像大雨一样遮住挡风玻璃，切断人的视线。不过，平坦的地面倒构成了现代机械化战争的理想战场，一任那些钢铁怪物奔驰、逞威。这里也是一个相对独立的战区，原则上隆美尔要受意大利非洲战区总司令的控制，但实际上意大利人根本指挥不动他。隆美尔直接听命于柏林。而希特勒的主要精力和兴趣集中在征服苏联的计划上，很长一段时间让隆美尔相机行事。隆美尔则率领他的兵力不多的“非洲军”独立作战，再没有比这里更好的能使他发挥战术特长的用武之地了。正是在这片大沙漠中，隆美尔达到了其军事生涯的顶点。