苗沛霖是安徽鳳台人，祖上是務農的。由於生活貧困，苗沛霖從小發奮讀書，想以此改變命運。付出總會有收穫，通過多年努力，苗沛霖終於考中秀才。但秀才的頭銜，並沒有改變他的生活，依然窮困潦倒。
清末農民起義盛行，土豪、鄉紳為保安全，集資籌糧，組織團練，以抗義軍。苗沛霖一直想出人頭地，覺得機會向來了，向鄉紳獻策：“徒團不足恃，必築寨、積粟、治兵可自保。”鄉紳們覺得他人微言輕，沒有采納。鄉紳們的團練上了戰場後，很快被捻軍擊敗，苗沛霖的建議成了他們抵抗義軍的良方。苗沛霖也藉此機會，走到人前，築寨練兵，很快成為淮北實力最強的隊伍。隊伍壯大後，苗沛霖大勝捻軍，得清廷賞識。欽差大臣勝保稱他為“奇才”，還補他知府頭銜。苗沛霖投靠勝保之後，實力大增，殺了捻軍葛倉龍、李大喜、任乾等重要首領。
1860年，英法聯軍逼迫北京。勝保向咸豐帝建議，要苗沛霖挑選精兵進京護駕。苗沛霖覺得清廷早已日落夕山，為保存實力，拒絕進京護駕。當時的清廷雖搖搖欲墜，但也不至於馬上滅亡。
1861年，苗沛霖誤判形勢，投靠太平天國，和太平軍的辛大剛、捻軍的陳太和一起攻下壽州，取得太平天國信任，被封為“奏王”。攻下壽州之後，苗沛霖覺得清軍比太平天國有實力，又投降清廷。清廷本要治他的罪，好在翁同書極力為他開脫，才被免罪。為了繼續得到清廷信任，苗沛霖把目光投向了陳玉成。陳玉成是太平天國的英王，當時被圍困在廬州。苗沛霖派人給陳玉成送信，信中都是溢美之詞，要陳玉成到壽州，並承諾組織四旗人馬，配合陳玉成奪取汴京。
陳玉成雖知苗沛霖是牆頭草，但心裡又希望他能真的幫自己。不顧眾人反對，到了壽州。陳玉成一到壽州，苗沛霖就將陳玉成抓了起來。陳玉成憤怒地說：“苗沛霖，你是最無賴的小人。龍勝幫龍，虎勝幫虎，將來定沒有好下場！”
陳玉成被遲凌而死後，天平天國和捻軍也紛紛退出了歷史舞臺。1862年，苗沛霖最大的靠山勝保被清廷法辦，次年處死。僧格林沁要苗沛霖解散隊伍，只能留下二千人，其餘人全部回鄉。面對清廷的咄咄逼人，苗沛霖再次反清，歷經半年激戰，在蒙城被亂軍砍死。
苗沛霖為了利益左右搖擺，反覆無常。最後又出賣了太平天國的中流砥柱英王陳玉成。本以為可以重新獲得朝廷的賞識，沒想到由於其自身早已失去了利用的價值，最後落得身首異處的悽慘下場。
