滞留在香港的马连良辗转回到内地后，于1952年8月正式成立了马连良京剧团。
（马连良的《赵氏孤儿》）
在筹建马连良剧团时最大的困难是凑不齐“四梁四柱”。马连良挑班唱戏的最大特点是演员阵容整齐强大，不是单唱独角戏，红花配绿叶，一场戏下来观众才能得到最大的艺术享受。过去有的主角就怕同台的配角超过自己。马连良则不然，他鼓励配角尽情发挥，配角把场子唱热了，他自己的戏也就好唱了，可谓水涨船高。当年马连良的扶风社后期就有张君秋、叶盛兰、袁世海、马富禄“四大台柱”的鼎力辅佐。如今组建马连良剧团，只剩下马富禄还在身边。张君秋随同马连良自港回到北京后，自己挑班成立了北京联谊京剧团， 即后来的北京市京剧三团。叶盛兰和袁世海早已加入了国家剧团，即后来的中国京剧院。马连良身边只有马富禄、马盛龙、黄元庆几位主要演员。少了张君秋这个大青衣，马连良就很难演出生旦对儿戏；缺了叶盛兰的小生，马连良的拿手三国戏就没法唱；马派戏中架子花脸最吃重，没有袁世海的参演，马连良的演出效果就大打折扣。
（罗慧兰、马连良合影）
所以，马连良一筹莫展。他最头疼的是团里缺少一位合适的旦角，没有一位合适的好旦角，马连良的生旦对手戏就无法唱。一天，一个偶然机会，遇到有“电台梅兰芳”绰号的孟广恒给名叫罗惠兰的年轻人说戏，马连良听了她的唱，觉得嗓音、扮相都不错，有培养潜力，于是吸收进马剧团。马连良为了培养新人，还特意把她介绍给梅兰芳做了徒弟。结果，罗慧兰随马剧团到上海演出时一炮而红。罗慧兰成了给马连良配戏的主要旦角。马剧团1955年底并入北京京剧团后，罗慧兰因一次在南京的演出误场受到处分，后离开北京京剧团去了新疆，这是后话。
马连良剧团成立后当年冬天出京巡回演出，第一站天津就临时约请侯喜瑞，此后东北之行便借调了袁世海、江世玉、孙盛武等随行演出。袁世海再次与马有了合作的机会，袁1941年在扶风社与马合作，马连良对他十分器重，袁世海在表演上能“造魔”，两人在同台表演时往往能擦出火花。在《甘露寺》里，当乔玄与孙权辞别吴国太走出宫门时，袁世海（扮孙权）回头斜看了马连良（扮乔玄）一眼，而乔两眼正盯着孙，四目相对，乔对孙的蔑视尽显，两人内心较劲的戏就出来了。马连良戏后对袁世海说，“我要的就是你这一眼，我和别人演过多少次，就是不给我这一眼。”袁世海后来常说，“就愿意和三叔（马连良）一块儿演，怹用眼睛一刺激你，你就跟着长能耐!”
这次袁世海陪马连良去东北巡演，还共同排演了当时最红火的新编戏《将相和》。这出戏是在齐齐哈尔时排的，当时《将相和》已分别由李少春、袁世海和谭富英、裘盛戎演出，大获成功。马连良想，既然要排这出戏就不能应景，要演出自己的马派特色来。他把年轻时常唱的《鸿门宴》中范增的一段【西皮流水】借来重新编词配曲，用在蔺相如“过函谷关”一场，“奉王旨意到秦邦”一段，顿时成为脍炙人口的名段而传唱。马剧团在沈阳等地演出此戏极受欢迎，有评论说，蔺相如这个角色的性格与马派风格十分符合，马连良演来很成功。回京后 马连良在大众剧场又演了两场就挂了。他说，不能跟富英、少春抢戏。
1954年7月18日北京日报刊登马连良剧团演出《四进士》的广告，主要演员是马连良、马富禄、马盛龙、马崇仁、马艳芬、黄元庆、周和桐、茹富华、罗慧兰。
（马连良、谭富英《群英会》）
到了1955年，上级提出了马连良剧团与谭富英、裘盛戎领衔的北京市京剧二团合并以增强阵容的想法。马谭是富连成的师兄弟，出科后各挑大梁，又都是四大须生之一，梨园界最讲名誉地位，这两位大佬能够合在一起吗？据说，二团的裘盛戎、谭世秀和马团的黄元庆、马崇仁分别去沟通做工作，马连良还特意到大外廊营谭宅与师弟谈心，探讨新剧团的组建。谭富英是谦谦君子、忠义仁厚，他说，师哥（指马连良）无论在艺术上还是资历上都应该排在我前面。
对于谭富英的谦虚和对马先生的尊重，裘盛戎曾对记者说：“瞧谭先生为了演出，对待马先生那份尊重学长的劲儿，真够我们大伙儿学习。有一次马先生谈到他七八年来不能演出他的名剧《十道本》的苦闷，他在这出戏里先后要分饰李渊和褚遂良两个角色，戏份太集中在他一个人身上了。过去他想由两个演员来分饰，又因为剧团里没有相当的老生演员，所以一直无法演出。谭先生一听这话，立刻表示愿意和他合作演出，担任李渊一角。谭先生虽没有演过这个戏，可是他愿意跟马先生学。当我们看到马先生拍着板眼，谭先生跟着他学的情景，使我们对他们发出衷心的敬爱。”
合并建团之前，二团与马团1955年8月曾以“联合演出”名义演出两场《群英会 借东风》。马连良的诸葛亮、谭富英的鲁肃、裘盛戎的黄盖、茹富华的周瑜、周和桐的曹操、马富禄的蒋干。戏迷们看到马谭合作演出，惊喜若狂，奔走相告。北京京剧团于1955年12月1日至3日在天桥剧场举办三场建团公演，第一天是黄元庆的《挑滑车》、罗慧兰的《女起解》、裘盛戎的《枣阳山》和马连良谭富英的《十道本》，第二天是马连良、谭富英、裘盛戎主演的《潘杨恨》，第三天是马连良、谭富英、裘盛戎主演的《群英会 借东风》（这一场因马连良患病未演出）。
此后，1956年和1960年，张君秋的北京市京剧三团和赵燕侠的燕鸣京剧团先后加入北京京剧团，于是形成了马谭张裘赵五大头牌的局面。
