一杨素率领十万大军，水陆并进，开赴江南平叛。

在离开长安赶赴江南平叛的行军途中，杨素即命行军长史为他准备了关于江南各路反叛的详尽资料，和军中诸将进行了认真研究，针对各路叛军的不同情况拟定了作战计划。

因此次统军平叛，杨坚仍命他率领前次伐陈的西路军做为主力，所以，杨素首先将兵锋指向了在江西鹜州一带起兵反隋的汪文进一路叛军，离开长安，东出潼关即转而南下，在江陵弃马登船，率领八只“五牙”巨舰为主力的隋军舰队浩浩荡荡驶离汉口码头，沿江而下，直杀向了鹜州。

汪文进本是南陈军中的一名水军将佐，此次起兵反叛，手下聚集了两万水军将士，带有数百只青龙战船，扼守大江中游通往下游的水路要道，本已自称天子，然于南陈宗室陈君范在浙东会稽称帝以来，就遥尊陈君范为皇帝，被陈君范册封为大都督。

当杨素尚未离京之时，汪文进就得到陈君范派人传来的消息，知道隋朝很可能会派出杨素前往江南平叛。他久闻杨素统率的隋军水军在伐陈一役中屡败南陈水军，因此早早地就做了防范：在九江至鹜州大江沿线靠近南岸的水中密布了无数的暗桩，且依附江心的若干处小岛、滩涂、绿洲修建了二几座水中别栅，意图将杨素率领的水军阻挡在江西境内。

杨素派出斥兵侦知了汪文进一路叛军在大江南岸沿线密布下暗桩、大举修建水中别栅的情况后，当即改变进军路线，命李彻率领一万人马从陆路绕过江西境内，改从下游的安州乘船渡江，先自陆路对汪文进叛军发起了进攻。

尔后，趁汪文进所部注意力皆被李彻吸引至陆路的机会，命麾下水军改乘蚱蜢小船避过对方在南岸沿线水中密布下的暗桩，直接对其展开了前后夹攻，打得汪文进大败，被迫放弃鹜州，欲率领残部逃往浙东去投奔陈君范，结果在半路上恰和隋军宇文述所部遭遇，汪文进本人被隋军活捉。

杨素麾下的水军在配合李彻所部陆军打败汪文进主力后，随即调头对大江之中十几座叛军别栅发起了攻击，没费多少周折即劝降了这些别栅中的守军，同时又派人清理了南岸沿线水中的暗桩，使得舰队主力得以顺利通过中游水域，进入到了叛乱频发的下游地带。

在江浙一带南陈统治的核心地带，主要的叛军有三路：西边一路是以乐安人蔡道人为首的叛军，一度占据了建康城东的蒋山等地，直接威胁到了建康城；东边的一路是以吴州人李棱为首的叛军，纠集了萧岩叔侄麾下的残兵游勇，共约水陆三万兵马，攻陷了吴州城，并以此为据点，同西、南两路叛军遥相呼应，互为声援，声噪一时；南边一路以会稽人高智慧为首的叛军因最先拥立陈君范称帝，在三路主要叛军中俨然居于首领的地位，且兵马数目不详。

杨素一心想赶在杨广抵达广陵前扫平江南叛乱，故而突破了大江中游叛军防线后，随即分兵两路相继对西、东、南三路叛军发动了猛烈进攻：由他亲率水军主力，以李彻和来护儿分别充任水路两军先锋，对蔡道人一路叛军实施歼灭后，会合宇文述所部隋军，主攻李棱率领的东路叛军；同时，派出行军总管史万岁率领精兵八千自鹜州转向东南进军，直插南路叛军据守的会稽一带，对高智慧一路叛军展开清剿。