八路軍115師在山東微山湖一帶建立一支鐵道游擊隊，被拍攝成了電影，幾乎家喻戶曉，他們神出鬼沒，襲擊日寇，屢建奇功。新四軍也有支鮮為人知的鐵道游擊隊，專門懲治漢奸，偽軍稱呼他們是“四爺”。
津浦鐵路蚌寧段自西北而東南貫穿江淮大地，將淮南抗日根據地分隔為路東、路西兩大塊。日軍在鐵路沿線駐重兵設防，層層封鎖，嚴重阻礙新四軍靈活調動，威脅著新四軍人員往來、軍用物資運送的安全。
1943年1月，經新四軍第二師師長、淮南軍區司令員羅炳輝建議，成立鐵路便衣大隊，實際就是鐵道游擊隊，二師五旅十四團副團長張宜愛任鐵路便衣大隊的大隊長，大隊下轄3箇中隊和一個直屬分隊。
新四軍便衣大隊的人員配置遠高於八路軍鐵道游擊隊，從事的任務難度也更大。當時，有個漢奸叫劉賜勝，因為會兩句日語做了日軍的翻譯官，仗著手上一部分兵力，又有日本人撐腰，他橫行鄉里欺壓百姓。
便衣大隊把這個鋤奸任務交給徐徵發、張士根兩大高手去完成。兩位勇士摸清了劉賜勝的行蹤，選擇在一家茶館下手，當穿著日本軍裝的劉賜勝踏進茶館，他們連開數槍，劉當場斃命，隨後兩人趁亂而退。
這次鋤奸行動讓當地的偽軍產生了心理陰影，鐵路便衣大隊乘勝追擊，放出話去，只要和新四軍合作，就不再是漢奸。這樣的心理戰作用明顯，有次張士根帶著兩個人摸進一個哨樓，結果十幾個偽軍全部繳械。
後來，有個偽軍大隊長雖然對新四軍政策表示理解，但就是死活不同意新四軍從他的轄區過鐵路。便衣大隊便在他的轄區攻擊日軍的列車，讓日軍損失很大，惱羞成怒的日本人就拿這個偽軍大隊長出氣，大隊長沒辦法，主動來找便衣大隊要求合作，張口閉口都是“四爺”。
這支鐵路便衣大隊的成效非常明顯，許多偽軍被爭取過來後，有的為新四軍二師送情報，有的為二師部隊調動讓路放行，有的為二師部隊過路站崗放哨，還有的為二師部隊搞子彈，購買短缺的商品。以前，津浦路東、路西的交通聯繫困難很大，後來新四軍二師人員、物資通過津浦線，多到整旅整團，有時挑子達幾百副，都是暢通無阻。鐵路便衣大隊在日軍的鐵路封鎖線上，還多次護送過羅炳輝、譚震林等首長安全通過。
