因出身寒门，长年不得重用，41岁始独立领兵，战斗生涯只有15年，少为梁武帝萧衍随从。后为武威将军。陈庆之身体文弱，难开普通弓弩，不善于骑马和射箭，但是却富有胆略，善筹谋，带兵有方，深得众心。陈庆之性格谨慎，每次奉诏，都要洗沐拜受；生活俭朴，只穿素衣，而且不好丝竹；虽身为武将，但善抚士卒，能使部下为其效死力。是一个刚柔并济的文雅儒将。

陈庆之可能是个庶族读书人或者小官吏（萧衍后来在褒奖他的诏书中写“本非将种，又非豪家”）的儿子。中国古代，尤其是两晋南北朝那段时间，庶族（下级地主或者读书人）和士族（高级地主或者读书人）之间的分界线是相当严格的，庶族不大见得能有出人头地的机会。而且他的武艺很差：“射不穿札，马非所便”，因此陈庆之的青少年，也许还包括中年，是以宫廷侍从的身份度过的。当时的皇帝是梁武帝萧衍，陈庆之跟着皇帝先是下了二十几年棋：“高祖性好棋，每从夜达旦不辍，等辈皆倦寐，惟庆之不寝，闻呼即至，甚见亲赏。”但他前半生的履历除了这个就是空白了。

直到公元525年，陈庆之才有了生平第一次带兵机会，那年他已经四十二岁了。而且那次带兵是被任命为武威将军和其他将领一起去迎接北魏的徐州刺史元法僧叛投的，没打成仗。随即，萧衍任命陈庆之为宣猛将军、文德主帅领兵两千护送豫章王萧综接管徐州。

北魏当然不可能丢掉徐州这块战略要地，派两位宗室元延明、元彧领兵二万，在陟口一带扎下营寨准备进兵，陈庆之得到消息之后，逼近敌人营垒挥师直击，这是他实实在在打的第一仗，很可能也是他所有战斗中实力比例与敌人最接近的一仗。战斗的结果，二元的两万人马不过在一通鼓之间被陈庆之的两千人马击溃败逃。

率军北伐

　　北魏后期，朝政腐败，民族矛盾和阶级矛盾激化。大通二年，北魏发生内乱，有实力的诸如萧宝寅、葛荣、尔朱荣等纷纷割据，而且尔朱荣大肆屠杀北魏皇室，没实力的象北海王元颢，就只有象春秋时期那样自托他国，借助他国的力量去成为本国的皇帝。于是元颢以本朝大乱为由降梁，并请梁朝出兵助其称帝。萧衍为元颢的语言迷惑，又有试探北魏的想法，于是以元颢为魏王，并以陈庆之为假节、飙勇将军，率兵7000人护送元颢北归上洛阳称帝。

　　但就是这次敷衍，成就了陈庆之的赫赫声名。元颢也没打算真的打下洛阳，他出兵不久就称帝不走了，给封陈庆之为卫将军、徐州刺史、武都公，命其继续督军西上攻荥阳。委任他自行战斗。于是在连绵的春雨之中，陈庆之带领自己直属的区区七千部队，开始了神话一般的北伐之旅。