与豫北反攻的同时，晋冀鲁豫野战军第四纵队和太岳军区部队，由陈赓、谢富治指挥，于1947年4月，在晋南地区也发动了反攻。

1947年春，胡宗南为进攻陕甘宁解放区，从晋南战场抽调7个旅，前往陕北作战，使整个晋南20余县的广大地区的防御兵力，只留下4个旅另2个团（1个旅另1个团守运城，3个旅守临汾，1个团守侯马、高贤）和阎锡山的地方团队，共约3万余人守备，企图组成所谓“联防体系”坚守晋南，保障其进攻陕北军队的侧后。

根据中央军委指示，我晋冀鲁豫军区司令部决定集中第4纵队和太岳军区3个独立旅及第2、第3军分区部队共5万余人，在134个民兵连和6万余参战群众的支援下，由陈赓、谢富治统一指挥，以优势兵力，向晋南之敌实施突然进攻。

我军太岳军区主力于3月26日从沁源、安泽地区出发，向临汾以南地区挺进。4月4日发起攻势。胡宗南因晋南要地受到威胁，即以整编第10师一部开往运城加强防御。遵照中央军委4月9日指示，第4纵队等部迅即在晋南三角地区展开，至15日，连克浮山、翼城、曲沃、绛县、新绛、稷山、河津、万泉、荣河、猗氏等10城，歼敌近1万人，控制了同蒲路100余公里，切断了运城、临汾两敌间的联系，席卷汾河两岸，夺取了禹门口，使晋南、陕中之敌异常惊慌，而进攻陕北的胡宗南军则因晋南告急，动摇了进攻陕北的决心。

为了争取在野战中歼灭可能由陕中或临汾出援之敌，我军除以第10、第13旅，太岳军区第23旅于河津、侯马地区准备机动外，以第11旅，太岳军区第22、第24旅立即乘敌慌乱之际，继续向晋南三角地带扩张战果。当我向南发展攻势时，敌从陕中之郃阳地区抽调第10旅，东渡黄河向晋南增援，于17日与运城敌第85旅，从东西两个方向合击猗氏，企图阻我向南机动。我军即以第10、第11旅和太岳军区第24旅直出嵋阳镇，歼敌第10旅之第28团，余敌仓皇逃入运城。此时，我除留太岳军区第23旅监视临汾之敌外，其余各旅仍向南发展。至4月25日我又连克临晋、闻喜、解县、虞乡、永济、平陆、芮城、霍县、赵城、垣曲等10城，控制了战略要津风陵渡。紧扣潼关，直逼胡宗南老巢——西安。彻底打乱了胡宗南进攻陕北我党中央、毛主席的军事部署。

4月26日，遵照中央军委主席毛泽东指示，我除以太岳军区第22、第23旅和第2军分区部队，协同吕梁军区部队迅速夺取乡宁、汾城、襄陵、蒲县、大宁等城，使吕梁与太岳两军区连成一片，此后，集中第10、第11、第13旅和太岳军区第24旅围攻运城。为诱运城敌出援，歼其一部后再相机攻城，即于5月1日夜先以一部向运城之飞机场与羊驮寺进攻，歼敌整编第206师1个团，敌未出援。3日夜又攻占北关、西关大部，并歼敌1个保安团。本拟借此诱敌从东南两关出援，再歼其一部，然后攻城。但战至7日，敌始终未敢出援。我即攻入东南两关，因敌凭借坚固工事与优势火力，与我反复争夺城关要点，使我不能迅速克城，同时又发现陕中韩城之敌开始东渡黄河增援运城。为了迅速准备执行新的战略任务，我于5月9日放弃对运城的围攻，除以一部在吕梁地区继续扩张战果外，晋南战役至此结束。

晋南战役共歼敌1.4万人，收复和解放曲沃、翼城、闻喜、解县、河津等22座县城及侯马、禹门口、风陵渡等重镇多处，解放了晋南300万人口的广大地区，控制了同蒲线230余公里，将残敌压缩于运城、安邑、临汾等孤立据点内，不仅彻底粉碎了胡宗南、阎锡山联防体系，控制了晋南局势，而且严重地威胁了进攻陕北的胡宗南部的侧背，有力地配合了西北我军的作战，创造了我军向黄河以南以西进攻的有利条件。

晋南战役既是保卫晋冀鲁豫解放区的战役，又是配合陕北战场，保卫毛主席、党中央的重要战役。