晋愍帝建兴元年（公元313年）四月二十七日，晋愍帝司马业即位以后，即面临着汉国的攻打和追杀，因此，向左丞相、大都督、都督陕东诸军事的司马睿发出诏令，令其率兵北伐救驾。
司马睿
可是，司马睿正在开拓江南，根本无意北伐。当时，住在京口（江苏镇江）担任司马睿军咨祭酒的祖逖，年轻时的远大抱负一直没有得到施展，于是，就找机会向司马睿进言：“晋朝的变乱，并不是因为君主无道使得臣下怨恨叛乱，而是藩王争权，自相残杀，这样就使夷狄之人钻了空子，祸害遍及中原。现在北方地区的百姓遭到蹂躏伤害后，都想奋起反击。大王如能派遣将领出征北伐，让我这样的人等统领军队来光复中原，各地的英雄豪杰必定会望风响应！”
司马睿虽不愿北伐，却也不便公开反对，于是便任命祖逖为奋威将军、豫州刺史，令其北伐。但仅仅拨给他千人粮饷、三千匹布，不供给兵器。
即使是这样，祖逖仍然满腔热情地带领自己私家的军队一百多户人家，从京口渡过长江北上。在大江之中时，祖逖用力拍击船楫，立誓要扫清中原。
祖逖渡江后，驻扎在淮阴，起炉冶铁，铸造兵器，又招募到士兵二千多人，继续北上。晋元帝建武元年(317年)，祖逖进驻芦洲（安徽亳州）。
当时，谯城（安徽亳州谯城区）一带流民张平、樊雅各自聚集数千人，自任坞主。祖逖经过劝说、率部追讨，降服樊雅，杀掉张平，占据太丘（河南永城西北），平定谯城。
祖逖攻占谯城后，晋元帝建武元年（公元317年），汉国大都督、都督陕东诸军事、骠骑大将军、东单于石勒派遣石虎，紧接着就来围困谯城，后在晋国援兵赶到之际，石虎解围而去。
六月，司马睿传布檄文，将琅琊王司马裒所率领的九军、三万士卒统归祖逖指挥。祖逖终于站住了脚跟，决心渡过黄河北伐收复失去的领土。
晋元帝太兴二年(公元319年)，祖逖出兵蓬关（河南开封南），征讨蓬陂坞主陈川，石勒派遣石虎率五万大军救援，两军在浚仪（河南开封境内）交战，结果祖逖兵败，退守驻屯梁国。石虎又派桃豹率兵到达蓬关，祖逖退守淮南。石虎带着陈川部众五千人迁徙到襄国，留下部将桃豹守卫陈川故城。
晋元帝太兴三年(公元320年)，祖逖攻打桃豹，派部将韩潜镇守陈川故城东台，桃豹被迫退据西台。两军对峙四十余日后，祖逖以兵粮充足设计，挫伤桃豹士气。祖逖又在汴水设伏，夺取石勒派人运给桃豹的军粮。此时，桃豹的士兵挨饿已经有很长时间，无奈退守东燕城（河南延津）。祖逖命韩潜进占封丘，自己则进屯雍丘(河南杞县)，使得战线进一步向北扩大，进逼黄河，石勒在河南的力量迅速萎缩。
七月，司马睿下诏，擢升祖逖为镇西将军。从此，祖逖训练士兵，积蓄粮食，为收复黄河以北的失地做准备。
石勒
石勒见祖逖势力强盛，很是忧虑，下令让幽州守吏为祖逖修葺祖父和父亲的陵墓，并安置两户人家看守坟冢。石勒又写信给祖逖，请求互通史节和开放贸易。祖逖虽未回信，却任凭双方互市，为此收利十倍，兵马日益强壮。后来，祖逖部将童建叛逃，石勒将其斩杀送回首级，向祖逖示好。祖逖甚为感动，也不接受对方叛降。从此，两国边境之间逐渐得以休养生息。
晋元帝太兴四年(公元321年)七月十七日，司马睿任命尚书卜射戴渊为征西将军，都督司、兖、豫、并、雍、冀六州诸军事，司州刺史，镇守合肥。
这一任命，对祖逖构成极大的打击。
祖逖认为戴渊虽有才望，但是没有远见卓识，而河南失地是自己披荆斩棘收复的，却突然被戴渊从从容容，坐享其成，心中怏怏不乐。不久，祖逖又担心朝廷内部矛盾日益尖锐，怕内乱爆发，北伐难成，以致忧愤成疾。九月，死于雍丘。
祖逖死后，豫州百姓如丧父母，谯地和梁地的人们还为他修建祠堂。而石勒大军趁机入侵河南，祖逖收复的河南大片土地又被攻陷。
閱讀更多 舞劍圍棋 的文章
