因出身寒門，長年不得重用，41歲始獨立領兵，戰鬥生涯只有15年，少為梁武帝蕭衍隨從。後為武威將軍。陳慶之身體文弱，難開普通弓弩，不善於騎馬和射箭，但是卻富有膽略，善籌謀，帶兵有方，深得眾心。陳慶之性格謹慎，每次奉詔，都要洗沐拜受；生活儉樸，只穿素衣，而且不好絲竹；雖身為武將，但善撫士卒，能使部下為其效死力。是一個剛柔並濟的文雅儒將。

陳慶之可能是個庶族讀書人或者小官吏（蕭衍後來在褒獎他的詔書中寫“本非將種，又非豪家”）的兒子。中國古代，尤其是兩晉南北朝那段時間，庶族（下級地主或者讀書人）和士族（高級地主或者讀書人）之間的分界線是相當嚴格的，庶族不大見得能有出人頭地的機會。而且他的武藝很差：“射不穿札，馬非所便”，因此陳慶之的青少年，也許還包括中年，是以宮廷侍從的身份度過的。當時的皇帝是梁武帝蕭衍，陳慶之跟著皇帝先是下了二十幾年棋：“高祖性好棋，每從夜達旦不輟，等輩皆倦寐，惟慶之不寢，聞呼即至，甚見親賞。”但他前半生的履歷除了這個就是空白了。

直到公元525年，陳慶之才有了生平第一次帶兵機會，那年他已經四十二歲了。而且那次帶兵是被任命為武威將軍和其他將領一起去迎接北魏的徐州刺史元法僧叛投的，沒打成仗。隨即，蕭衍任命陳慶之為宣猛將軍、文德主帥領兵兩千護送豫章王蕭綜接管徐州。

北魏當然不可能丟掉徐州這塊戰略要地，派兩位宗室元延明、元彧領兵二萬，在陟口一帶紮下營寨準備進兵，陳慶之得到消息之後，逼近敵人營壘揮師直擊，這是他實實在在打的第一仗，很可能也是他所有戰鬥中實力比例與敵人最接近的一仗。戰鬥的結果，二元的兩萬人馬不過在一通鼓之間被陳慶之的兩千人馬擊潰敗逃。

率軍北伐

　　北魏後期，朝政腐敗，民族矛盾和階級矛盾激化。大通二年，北魏發生內亂，有實力的諸如蕭寶寅、葛榮、爾朱榮等紛紛割據，而且爾朱榮大肆屠殺北魏皇室，沒實力的象北海王元顥，就只有象春秋時期那樣自託他國，藉助他國的力量去成為本國的皇帝。於是元顥以本朝大亂為由降梁，並請梁朝出兵助其稱帝。蕭衍為元顥的語言迷惑，又有試探北魏的想法，於是以元顥為魏王，並以陳慶之為假節、飆勇將軍，率兵7000人護送元顥北歸上洛陽稱帝。

　　但就是這次敷衍，成就了陳慶之的赫赫聲名。元顥也沒打算真的打下洛陽，他出兵不久就稱帝不走了，給封陳慶之為衛將軍、徐州刺史、武都公，命其繼續督軍西上攻滎陽。委任他自行戰鬥。於是在連綿的春雨之中，陳慶之帶領自己直屬的區區七千部隊，開始了神話一般的北伐之旅。