陈承瑢到了潜山县，段立刚甚是礼遇，反而劝说陈承瑢入伙。他仍称陈承瑢为佐天侯，说道：“佐天侯大人，杨烜声称是东王兄弟，既不信教，也非平在山老兄弟，却僭称皇帝，实乃我天国之大敌。
“佐天侯为东王生前第一谋士，又是天国百官之长，何不随我一起起事？有您主持大局，东殿各部一定会群起响应。咱们再造天国，以慰东王在天之灵，岂不快哉？”
陈承瑢已经见识到革命军兵马之强壮，自知段立刚这种小喽啰决非林启荣对手。他苦笑道：
“老弟，识时务者为俊杰。天京事变，诸王相杀，足见什么拜上帝会，什么天父天兄天王，全都是无稽之谈。大乱之后，人心思定。
“杨烜建号称帝，各地太平军多有上表请降者。杨烜多有封赏，太平军亦欣然乐从。老弟，回头是岸，若你肯投降，我愿犯颜直谏，为老弟说情。”
陈承瑢的话言过其实，段立刚也略知一二。各地太平军投降帝国后，大多仅获一个军衔和委任状。赏赐更谈不上，只有少量象征性的军火，且需要太平军花钱购买。
段立刚冷笑道：“兄弟我只知道，东王对我有知遇之恩，我只效忠东王一人。杨烜攻占天京，虽为东王报仇，却也鸠占鹊巢，实乃天国公敌。我段立刚虽然不才，却也是铮铮铁骨，就算战死，也决不投降杨烜。”
段立刚敢于拒绝陈承瑢的劝降，也并非狂妄无备。他以潜山为根据地，而潜山地居安庆西北，附近便是大别山脉。万一革命军兴兵过来讨伐，万一不敌革命军，段立刚可以撤入大别山区。
对付段立刚这样的跳梁小丑，自然无需革全军劳师远征。林启荣受命西进武昌，在安庆短暂停留，召集沿江太平军集会。
期间，林启荣令骑兵连连长范汝增挑选了八十名精骑，前往歼灭叛军。
海军陆战队多以战船为载具，却需要登陆作战。因此，陆战队同样编有骑兵，一个联队两千多人，编有一支一百二十人的骑兵连。
范汝增时年十五岁，广西人，原是李秀成的部下。他骁勇善战，由士卒提拔为军官，转入海军陆战队服役。
（历史上，范汝增出身于太平军童子兵，是太平军后期名将。太平天国覆亡后，范汝增加入捻军，在高楼寨之战中斩杀满清科尔沁亲王僧格林沁。）
范汝增只带了八十名轻骑，先乘船从长江溯入皖河，沿皖河直至潜山县境内。之后，他伪装成捻子，出其不意地出现在潜山城下，声称要投奔段立刚。
段立刚在潜山举事后，前来归附的太平军并不多，只有区区千余人，多为流离失所的流民。骑兵是当时的机动部队，范汝增率领一百骑兵来归，段立刚十分高兴。
来潜山之前，段立刚本是东殿尚书，一直在东王府做文官，对兵事不熟。他见范汝增的骑兵参差不齐，只携带了刀矛弓箭等冷兵器，打扮与普通捻子相似，便放下心来。
为以防万一，段立刚要求范汝增只带两个随从入城。范汝增佯怒，说道：
“段将军，我有心投奔归附，奈何将军如此猜忌，如何成就大事？你怀疑我是奸人，我还怀疑你图谋我呢？算了，此处不留爷，自有留爷处，咱们后会有期。”
说罢，范汝增引军欲走。段立刚尚且立在城头，他正缺少骑兵部队，一听范汝增要走，当即就急了。
他料定范汝增人少，不足为虑，索性下令打开城门、放下吊桥，放范汝增的骑兵入城。
段立刚也走下城楼，欢迎范汝增入伙。谁知道，才一走近，范汝增便从口袋里掏出一支小巧的转轮手枪，一枪击毙了段立刚。
得到信号后，八十个骑兵人手一支左轮手枪，对着段立刚的叛军猛烈射击。
海军陆战队经常深入敌后登陆作战，装备较为精良。骑兵连又是支队里的“特种兵”，更加骁勇善战。
段立刚只有两百多个太平军，其他都是新招募的流民。他们试图抵抗，但火枪射速太慢，火力太弱。想拼冷兵器，对方又在马背上来去自如，左右冲撞。